JP4686602B2 - 3d画面に動映像を挿入する方法及びその記録媒体 - Google Patents

3d画面に動映像を挿入する方法及びその記録媒体 Download PDF

Info

Publication number
JP4686602B2
JP4686602B2 JP2008518040A JP2008518040A JP4686602B2 JP 4686602 B2 JP4686602 B2 JP 4686602B2 JP 2008518040 A JP2008518040 A JP 2008518040A JP 2008518040 A JP2008518040 A JP 2008518040A JP 4686602 B2 JP4686602 B2 JP 4686602B2
Authority
JP
Japan
Prior art keywords
moving image
texture
image
moving
player
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008518040A
Other languages
English (en)
Other versions
JP2008544393A (ja
Inventor
ファン、ミン‐ジェ
イ、ヒュン‐チャン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naver Corp
Original Assignee
Naver Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naver Corp filed Critical Naver Corp
Publication of JP2008544393A publication Critical patent/JP2008544393A/ja
Application granted granted Critical
Publication of JP4686602B2 publication Critical patent/JP4686602B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Description

本発明は、3D画面に動映像を挿入する方法及びその記録媒体に関する。
従来、ゲームにおける3Dグラフィックは、飛行シミュレーションゲームなどの極めて限られた分野で使用され、ワイヤーフレームのみを用いて3D形状を具現化する程度であった。しかしながら、最近は、3Dエンジンが発展し、プロセッサの処理能力が向上するにつれて、華麗なシェーディング、テクスチャリング及びライトニングが可能となり、多くのゲームで3Dグラフィックが適用されている。また、ゲームのみならず、3Dエンジンの発展と伴い、グラフィックを提供する他の種類のソフトウェアでも3次元グラフィックを提供している。
3Dグラフィックは、2次元イメージに質感などを与えることで立体的なグラフィックを提供するだけでなく、使用者の視点によって異なった場面を演出することができ、使用者が現実の世界で事物を見るときと同様の効果を提供することができる。
最近になって、ゲームを楽しむ使用者が急増し、ゲーム内に広告又はその他の有用な情報を挿入しようとする試みがなされている。このような広告又はその他の情報は、ゲーム内でテキスト又は単純な静止画等のイメージ形態で提供され、動映像の形態では提供されなかった。
3Dグラフィックには、現実感を提供できるという長所がある反面、本来に具現されている3Dオブジェクト以外の他のイメージオブジェクトを柔軟に挿入し難いという問題点がある。
特に、挿入しようとする客体が動映像である場合、サーバーにおいて、動映像を3Dグラフィックの一部として表現するための前処理がなされていなければ、動映像を3Dグラフィックに挿入することができない。
そして、動映像広告は、継続的にアップデートし、スケジューリングアルゴリズムによってリアルタイムに表示する必要があるが、従来の3Dゲーム及びその他の3Dグラフィックソフトウェアには、サーバーで提供する広告の動映像をリアルタイムに3Dグラフィック画面に挿入できないという問題点があった。
また、広告の用途には、使用者インターフェースもFlash(登録商標)などの動映像で具現しようとする要求があったが、3Dグラフィックでは、使用者インターフェースのための動映像挿入も難しいという問題点があった。
本発明では、上記のような従来技術の問題点を解決するために、サーバーで特別な前処理作業を行わずに動映像ファイルを伝送する場合にも、動映像を3D画面に挿入してディスプレイできる方法及びその記録媒体を提供することを目的とする。
また、本発明は、多様な種類の動映像広告データをリアルタイムに3Dゲームの特定領域に挿入できる方法及びその記録媒体を提供することを目的とする。
また、本発明は、3Dグラフィック画面のための動映像使用者インターフェースを提供できる方法及びその記録媒体を提供することを目的とする。
上記のような目的を達成するために、本発明の一側面によると、(a)サーバーから動映像データを受信する段階と、(b)上記受信された動映像データを再生するプレーヤーを呼び出す段階と、(c)上記プレーヤーによってキャプチャされる動映像のイメージを、予め設定された時間間隔で予め設定された動映像ドローイングメモリ領域にドローイングする段階と、(d)上記動映像ドローイングメモリ領域に保存されたイメージデータに対するテクスチャが挿入される3D画面での座標情報を含むテクスチャの情報を設定する段階と、(e)上記テクスチャの情報に応じて動映像キャプチャイメージに対応するテクスチャを3D画面にレンダリングする段階と、を含むことを特徴とする。
また、上記動映像データは、広告データ又は使用者インターフェースに挿入される動映像データを含むことができ、上記広告データは、予め設定されたスケジューリングアルゴリズムによってサーバーから伝送される。
また、上記段階(c)は、上記動映像プレーヤーに特定フレームのキャプチャイメージドローイングを要請する段階と、上記動映像プレーヤーが、上記動映像ドローイングメモリ領域に要請されたキャプチャイメージデータをドローイングする段階とを含むことができる。
また、上記段階(c)は、上記動映像プレーヤーが動映像を再生する場合、予め設定された時間間隔に応じたフレームイメージをキャプチャする段階を含むことができる。
また、上記予め設定された時間間隔は、3D画面が更新される時間間隔であることが好ましい。
また、上記段階(d)は、テクスチャ座標を設定する段階と、3D画面に挿入されるテクスチャをロードする段階と、テクスチャステージを生成する段階と、定点バッファを生成し、生成された定点バッファを充填する段階と、を含むことができる。
また、上記テクスチャの情報は、動映像の特定フレームイメージがドローイングされるメモリ領域を指定することでロードされることが好ましい。
また、上記動映像がFlash(登録商標)形式の動映像である場合、上記レンダリングされた動映像の特定領域に使用者イベントが発生する際、使用者イベントが発生した座標情報を動映像プレーヤーでの動映像座標情報に変換する段階をさらに含むことができ、上記動映像プレーヤーは、上記動映像座標情報を受信し、対応する座標での使用者イベントの発生に関連して予め設定されたプロセスを行うことが好ましい。
また、本発明の他の側面によると、3D画面に動映像を挿入する方法を実行させるためのプログラムを記録したコンピュータ読取可能な記録媒体であって、(a)サーバーから動映像が伝送される場合、動映像プレーヤーを呼び出し、伝送された動映像の再生を要請する段階と、(b)上記プレーヤーとの通信を通して、特定フレームの動映像のキャプチャイメージを予め設定された時間間隔で予め設定された動映像ドローイングメモリ領域にドローイングする段階と、(c)上記動映像ドローイングメモリ領域に保存されたイメージデータに対するテクスチャが挿入される3D画面での座標情報を含むテクスチャの情報を設定する段階と、(d)座標変換マトリックスを含むレンダリング情報を設定して、上記テクスチャの情報に応じて動映像キャプチャイメージに対応するテクスチャを3D画面の予め設定された画面にレンダリングする段階と、を実行させるためのプログラムを記録した記録媒体であることを特徴とする。
本発明によれば、サーバーで特別な前処理作業を行わずに、動映像を3D画面内に挿入できる。
また、本発明によれば、多様な種類の動映像広告データをリアルタイムに3Dゲームの特定領域に挿入でき、使用者インターフェースも動映像によって具現できる。
以下、添付された図面を参照して、本発明に係る3D画面に動映像を挿入する方法及びその記録媒体の好適な実施例を詳細に説明する。
図1は、本発明の好適な一実施例に係る3D画面に動映像を挿入するためのモジュール構成を示した図である。
図1に示すように、本発明の一実施例に係る動映像挿入のためのモジュール構成は、動映像プレーヤー100、動映像ドローイングメモリ102、動映像挿入モジュール104、3Dエンジン106及び3Dワールド108を含む。
本発明は、3Dゲームなどの3D画面の予め設定された領域に動映像データを挿入する方法に関するもので、これを具現するための図1に示した各モジュールは、ソフトウェアによって具現されたり、カード又はチップなどのハードウェアによって具現される。図1のモジュールは、使用者クライアントに設置される。
本発明において、3D画面に挿入される動映像は、AVI、MEPG、ASFなどの動画又はアニメーション動映像ファイルの他に、SWF形式のFlash(登録商標)動映像ファイルなどを全て含むことができる。
また、上述した動映像タイプのみならず、文書ファイルを通して生成されたアニメーションを挿入することもできる。例えば、パワーポイント文書は、文書内に多様なアニメーションを設定することができるが、このような文書でのアニメーションは、文書編集アプリケーションとの通信を通して挿入することができる。
図1において、動映像プレーヤー100は、サーバー(図示せず)から提供される動映像ファイルを再生する機能を担う。本発明のサーバーは、3D画面に挿入される動映像データを使用者クライアントに伝送し、動映像プレーヤー100は、サーバーから伝送される動映像ファイルを再生する。サーバーは、予め設定されたイベント発生時にリアルタイムに動映像ファイルを伝送し、動映像を3D画面に挿入することができる。また、サーバーは、予め動映像ファイルを伝送し、使用者クライアントに保存された動映像ファイルを、イベント発生時に動映像プレーヤーが再生して3D画面に挿入するように動作することもできる。
動映像プレーヤー100は、上述した多様な種類の動映像を再生し、必要によっては複数個の動映像プレーヤーが備わる。AVI、MPEGなどの動映像ファイルを再生するためには、マイクロソフト社のウィンドウズメディアプレーヤーなどを用いることができ、SWF形式のFlashデータを再生するためには、マクロメディア社のFlashPlayerを用いることができる。
動映像プレーヤー100は、再生された動映像をクライアントの予め設定されたメモリ領域にドロー(Draw)する。本発明の一実施例では、動映像プレーヤーがキャプチャする動映像の特定フレームイメージは、動映像ドローイング(drawing)メモリにドローイングされる。また、動映像プレーヤーは、フレームキャプチャ動作を行わずに、動映像挿入モジュール104が再生される動映像の特定フレームをキャプチャし、これを動映像ドローイングメモリ102にドローイングすることもできる。ここで、ドローイングは、動映像プレーヤーがドローイング関数を用いてフレームイメージを動映像ドローイングメモリにドローイングする動作、フレームキャプチャイメージを動映像ドローイングメモリに保存する動作を全て含むことができる。本発明の一実施例では、動映像ドローイングメモリ102は、メモリDC(Device Context)である。
動映像挿入モジュール104は、サーバーから提供される動映像データに対する動映像プレーヤー100の再生動作を制御し、再生されたデータを3D画面にディスプレイするために3Dワールド108に提供する機能を担う。
動映像挿入モジュール104は、3Dゲーム又はその他の3Dグラフィックアプリケーションに含まれるプログラムモジュール、若しくは3Dゲーム又はその他の3Dグラフィックアプリケーションに動映像データ挿入動作を行うための別途のアプリケーションプログラムである。
動映像挿入モジュール104によって挿入される動映像データの一例としては、動映像広告がある。静止画像広告でない動映像広告が、3Dゲームの電光板などの予め設定された領域に挿入されて再生されることで、ゲーム内での広告効果が極大化される。
他の例として、動映像挿入モジュールによって挿入される動映像データは、3Dゲームなどでの使用者インターフェースに挿入される。3Dゲームなどにおいて、使用者インターフェースは、アイコンなどの2Dグラフィックで表現されるが、本発明では、Flash(登録商標)などで製作された動映像を使用者インターフェース部分に挿入することで、より動的でかつ華麗な使用者インターフェースが提供される。特に、Flash動映像は、使用者との相互作用が可能であるので、使用者インターフェースとして活用するのに効果的である。
動映像挿入モジュール104は、動映像ドローイングメモリ102にドローイングされる特定フレームの動映像イメージデータをテクスチャ(Texture)形態で3Dワールド108に提供し、動映像プレーヤーによって再生される動映像が3D画面の特定領域に挿入されるようにする。動映像挿入モジュール104が動映像に対するテクスチャを設定して3Dワールドに挿入する過程は、後述する。
テクスチャは、3D画面のジオメトリ上にマッピングされる2次元イメージである。上述したように、動映像データを2次元イメージ化するために、キャプチャされたフレームを動映像プレーヤーが提供することもでき、再生される動映像に対して動映像挿入モジュール104がキャプチャ動作を行うこともできる。
本発明の好適な実施例によると、動映像挿入モジュール104が動映像に対するテクスチャを提供する時期は、3Dワールドデータの更新時期と同一であることが好ましい。例えば、3Dワールド108が1秒に30回更新される場合、動映像に対するテクスチャデータも1秒に30回提供され、3Dワールド108が更新される度に、動映像に応じたテクスチャが3Dワールド108に反映されるようにする。
3Dエンジン106は、3Dゲームなどの3Dグラフィック関連アプリケーションを駆動し、アプリケーションとデータを管理するもので、効率的なアプリケーション製作及びアプリケーション駆動を支援するエンジンを意味する。
3Dゲームの場合、3Dエンジンはゲームエンジンに含まれる。3Dエンジンは、アプリケーションとの通信を通して3Dグラフィックのレンダリング及び3D環境によるオブジェクトの物理的な動きがなされるように制御する。
図1に示していないが、効率的な3Dグラフィックを具現するために、3DグラフィックAPI(Application Program Interface)であるDirectXまたはopenGLなどを用いることも可能である。
3Dワールド108は、3Dエンジン及び3Dエンジンと関連した3Dアプリケーションによって具現される3D画面がディスプレイされるメモリ領域を意味する。3Dワールド108は、予め設定された時間間隔で更新され、3Dエンジン106は、3Dワールドに具現された3次元グラフィックを使用者のディスプレイ装置にレンダリングする。上述のように、3Dワールドに予め設定された領域には、テクスチャに変換された動映像が挿入される。
一般的に、3Dワールド108には、全体的な3D画面が全て具現され、3Dエンジンは、具現された3Dワールド画面のうち使用者の視点と関連した画面のみを使用者ディスプレイ装置にディスプレイする。
上述したモジュール構成によって、サーバーで特別な処理を行わずに、動映像広告データをクライアントに伝送するだけで、動映像広告がリアルタイムに3Dゲームの特定領域にディスプレイされる。また、より動的でかつ現実感のある使用者インターフェースがFlash(登録商標)などによって具現され、使用者インターフェースグラフィックは、別途のパッチ作業なしにも容易に取り替えられる。
図2は、本発明の好適な一実施例に係る3D画面に動映像を挿入する方法の全体的な流れを示したフローチャートである。
図2に示すように、まず、サーバーから動映像ファイルを受信する過程が行われる(段階200)。動映像データが広告である場合、サーバーは、予め設定されたスケジューリングアルゴリズムによって多様な広告データを伝送することができる。
動映像ファイル受信情報は、図1の動映像挿入モジュール104に提供され、動映像挿入モジュール104は、受信された動映像ファイルに対する再生を動映像プレーヤー100に要請する(段階202)。動映像挿入モジュール104は、動映像ファイルのタイプを判断し、該当する動映像プレーヤーが動映像を再生できるようにする(例えば、SWF形式である場合、マクロメディア社のFlashPlayerに再生を要請する)。
動映像挿入モジュール104は、動映像再生要請時に動映像を再生するメモリ領域情報を動映像プレーヤー100に提供し、動映像プレーヤーは、予め設定されたメモリ領域に動映像ファイルを再生する。
動映像が再生された後、予め設定された時間間隔で動映像のフレームイメージをキャプチャする過程が行われる(段階204)。上述したように、動映像プレーヤー100がフレームに対するキャプチャデータを、動映像プレーヤーが動映像ドローイングメモリに保存することもでき、再生される動映像データを動映像挿入モジュールがキャプチャすることもできる。特に、FlashPlayerの場合、再生される動映像の特定フレームイメージをdraw()関数などを用いてメモリ領域にドローイングすることができる。
また、上述したように、3Dワールド内でキャプチャされたイメージデータが動映像と同様に再生されるように、3Dワールドの更新時間に合せて動映像のイメージをキャプチャすることが好ましい。
動映像挿入モジュール104は、キャプチャされたイメージに対してテクスチャを設定する過程を行う(段階206)。動映像挿入モジュール104は、テクスチャの座標を有する定点を設定し、テクスチャに対するステージ設定などのテクスチャ設定作業を行う。例えば、動映像挿入モジュール104は、3D画面の部屋に備わったTVで動映像が再生されるようにする場合、TVをジオメトリにして、テクスチャ座標及びテクスチャの色相などを設定する過程を行う。
動映像キャプチャイメージに応じたテクスチャの設定が完了すると、テクスチャを予め設定されたジオメトリにレンダリングする処理が遂行される(段階208)。上述したテクスチャ設定プロセスで設定された情報によってジオメトリにテクスチャがレンダリングされ、レンダリング時にテクスチャ座標インテックス(Texture Coordinate Index:TCI)をテクスチャ座標に変換する過程が行われる。動映像キャプチャイメージは、ジオメトリの形態に相応するレンダリングが成され、例えば、TVなどの平面がジオメトリである場合、平面のイメージにレンダリングされるが、競技場の曲がったトラックがジオメトリである場合、トラックのように曲がった形態でレンダリングされる。
図7及び図8は、動映像イメージが3D画面にレンダリングされる一例を示した図である。
図7及び図8に示すように、動映像は、TV又はトラックなどの3D画面の特定領域に挿入され、挿入されるジオメトリの形態に相応して平面または曲面の形態を有するようになる。
3Dエンジンは、3Dワールドに具現された3Dグラフィックのうち使用者の視野と関連した領域のグラフィックを使用者ディスプレイ装置にディスプレイし、使用者は、多様な角度で挿入された動映像を見ることができる(段階210)。
図2に示していないが、動映像データがFlashデータである場合、ディスプレイされる動映像と使用者との相互作用が可能である。Flash動映像は、アクションスクリプトを含んでいるので、マウスイベントなどの特定の使用者イベントに応答して、予め設定されたプロセスを行う。本発明では、このようなFlash動映像と使用者との相互作用は、3Dゲームなどの3D画面内でなされる。
このために、3Dエンジン又はその他のアプリケーション駆動エンジンは、3D画面にディスプレイされるFlash動映像の特定領域にマウスイベントなどの使用者イベントが発生する場合、該当領域の座標をFlashPlayerでの座標に変換し、変換された座標情報をFlashPlayerに提供する。
FlashPlayerは、受信した座標に使用者イベントが発生する場合の予め設定されたプロセスを行い、行われるプロセスによって変わるFlash動映像は、図2のような手順に従って3D画面にディスプレイされる。
したがって、Flash動映像は、特に、動映像が使用者インターフェースに挿入される場合に有用に活用される。
図3は、本発明の好適な一実施例に係る3Dエンジンの詳細構成を示したブロック図である。
図3に示すように、本発明で使用される3Dエンジンは、物理エンジン300、人工知能エンジン302、ネットワークエンジン304及びレンダリングエンジン306を含む。
物理エンジン300は、3D画面に具現される各オブジェクト(Object)の衝突感知、特殊効果などを表現する機能を担うエンジンである。例えば、壁にぶつかってこれ以上移動が不可能であったり、球が壁に当てられて弾性力によって跳ね返る現象などは、物理エンジンによって具現され、銃を撃ったり刀を振り回したときの特殊効果なども物理エンジンによって具現される。物理エンジンは、物理学に基づいて製作されるもので、最も基本的に用いられる法則は、ニュートンの力学法則である。3Dゲームなどでプレーヤーの移動時にディスプレイされる写実的な動きは、物理エンジンによって可能になる。
人工知能エンジン302は、キャラクター又はその他のオブジェクトが、予め設定されたアルゴリズムによって知能的な動作を行うようにするアルゴリズムである。人工知能エンジンを具現するためには、DT(Decison Tree)技術、FuSM(Fuzzy State Machine)技術、FSM(Finite State Machine)技術、スクリプトランゲージ又は規則基盤システム(Rule based System)などを用いることができる。オブジェクトが自動的に最も速い経路に移動する動作又はゲーム内のNPC(Non―Player Character)の規則的な動作などは、人工知能エンジン302によって具現される。
ネットワークエンジン304は、オンライン3Dゲームの場合に主に用いられるもので、ネットワークに接続せずにクライアント内で3D画面が具現される場合には備えなくてもよい。ネットワークエンジン304は、オンライン3Dゲームで多数の同時接続者に対する情報を伝達する機能をする。同時接続者に対する情報を伝達するために、P2P(Peer to Peer)、クライアント―サーバーシステム、ハイブリッドシステムまたは大容量分散サーバーシステムなどが使用される。
レンダリングエンジン306は、3次元で構成されたオブジェクトに対する幾何学的な情報を2次元のスクリーン上のイメージに変換し、これを使用者ディスプレイ装置にディスプレイする機能をする。本発明において、動映像データを特定のジオメトリに挿入した後、これをディスプレイする機能は、レンダリングエンジン306によって行われる。3D画面のデータは、オブジェクトの定点座標、テクスチャ定点座標、ディフューズ値などを含んでいるが、レンダリングエンジン306は、このような多様な情報を画面にディスプレイする機能を行う。
レンダリングエンジン306は、独立的にレンダリングを行うこともできるが、図3に示すように、DirectX、openGLなどの3DグラフィックAPI(Application Program Interface)と連動してレンダリングを行うこともできる。3DグラフィックAPIを用いることで、より迅速な3D画面データ処理が可能になる。
図4は、本発明の好適な一実施例に係る動映像挿入モジュールの詳細なモジュール構成を示したブロック図である。
図4に示すように、本発明の一実施例に係る動映像挿入モジュール400は、プレーヤー呼び出しモジュール400、DC(Device Context)情報伝達モジュール402、イメージローディングモジュール404、テクスチャ設定モジュール406及びイメージ座標変換モジュール408を含む。
図4は、動映像プレーヤーが特定フレームのイメージを動映像ドローイングメモリにドローイングする場合の動映像挿入モジュールの構成を示した図である。しかしながら、上述したように、再生される動映像に対するキャプチャを動映像挿入モジュールが行うこともでき、この場合、図4に示したモジュールの他に動映像キャプチャモジュールがさらに含まれることになる。
図4において、プレーヤー呼び出しモジュール400は、動映像ファイルがサーバーから受信される場合、受信されたファイルを再生するプレーヤーを呼び出す機能をする。上述したように、動映像ファイルのタイプを判断し、そのタイプに相応する動映像プレーヤーを呼び出し、再生する動映像ファイル情報を伝達する。
DC(Device Context)情報伝達モジュール402は、呼び出された動映像プレーヤーに動映像の特定フレームのイメージデータをドローイングするメモリ領域情報、及びイメージドローイングのために必要な関数情報を提供する機能をする。本発明の一実施例では、DC情報伝達モジュール402は、3DグラフィックAPIとの通信を通じてDC情報の生成を要請し、生成されたDC情報を動映像プレーヤーに提供する。例えば、サーバーから受信した動映像がFlash形式である場合、DC情報伝達モジュール402は、3DグラフィックAPIにDC情報の生成を要請した後、FlashPlayerにメモリ領域、関数、イメージをドローイングするフレーム情報などを提供し、FlashPlayerが、動映像のうち特定フレームのイメージを予め設定されたメモリ領域にドローイングできるようにする。もちろん、特定フレームイメージの一部領域のみをドローイングすることも可能である。このとき、ドローイングされるイメージファイルのタイプは、ビットマップであることが好ましい。
イメージローディングモジュール404は、動映像ドローイングメモリにドローイングされたイメージを3D画面に挿入するようにロードする機能をする。このようなイメージローディング作業は、後述するテキスト設定モジュール406が行うこともでき、テクスチャ設定とは別途にイメージローディングを行うこともできる。上述したように、3Dワールドの更新時間に合せて動映像のイメージがローディングされることが好ましい。
テクスチャ設定モジュール406は、ローディングされたイメージが3D画面の特定領域に挿入されるようにテクスチャ設定を行う。テクスチャ設定モジュール406は、テクスチャがカバーされるジオメトリ及びテクスチャの座標などを設定し、設定情報によってテクスチャレンダリングが行われるようにする。より詳細なテクスチャ設定手順は、図5を参照して説明する。
イメージ座標変換モジュール408は、動映像ドローイングメモリにドローイングされたイメージ座標に対して変換が必要である場合に、イメージ変換を行う機能をする。動映像イメージはテクスチャとして活用されるが、テクスチャ座標系は0.0〜1.0の実数値を有し、特定タイプのイメージファイルは、このような変数で座標系が具現されないので、必要な場合にイメージ座標変換作業を行う。この場合のイメージ座標変換は、公知の技術であるので、詳細な説明は省略する。
図5は、本発明の好適な一実施例に係るテクスチャ設定過程を示したフローチャートである。
図5に示すように、まず、テクスチャのインターフェースを設定する過程が行われる(段階500)。テクスチャインターフェース設定過程は、テクスチャ変数を宣言する過程として、3DグラフィックAPIとしてDirectXが使用される場合、C++言語ではテクスチャインターフェースが次のように設定される。
LPDIRECT3DTEXTURE9 texture=NULL
テクスチャインターフェースが設定された後、テクスチャの座標を設定する過程が行われる(段階502)。このときに設定される座標には、テクスチャが挿入される領域の3次元座標及びテクスチャ自体の2次元座標が含まれる。このような座標は、C++言語の構造体形式で設定され、その例は次の通りである。
struct CUSTOMVERTEX

D3DXVECTOR3 position;
D3DCPLPR color;
FLOAT tu,tv;
座標が設定された後、テクスチャがカバーされるジオメトリを初期化する過程が遂行される(段階504)。
ジオメトリを初期化した後、ジオメトリにカバーされる実質的なテクスチャをロードする(段階506)。テクスチャは、ファイルの経路を指定する方式などを通してロードされるが、本発明では、イメージがドローイングされるメモリ領域を指定することで、テクスチャをロードすることが好ましい。テクスチャロードには、一般的なD3DXCreat eTexture関数などが用いられる。
テクスチャがロードされた後、テクスチャステージを設定する過程が行われる(段階508)。テクスチャステージでは、テクスチャ色相の明るさ、周辺背景との明るさ調節情報などを設定する。ステージ設定時に、周辺背景と動映像テクスチャの色相とを組み合わせるモジュレート(Modulate)機能が用いられる。
ステージを設定した後、テクスチャがカバーされるジオメトリに対する定点バッファを生成する(段階510)。定点バッファは、CreateVertexBuffer関数などを用いて生成することができる。生成された定点バッファには、テクスチャの2次元u、v座標値が充填される(段階512)。
図6は、本発明の好適な一実施例に係るテクスチャレンダリング過程を示したフローチャートである。
図6に示すように、2次元のテクスチャをレンダリングするために、後面バッファとZバッファをクリアする過程が遂行される(段階600)。
後面バッファとZバッファがクリアされると、テクスチャ変換に使用されるマトリックスを設定する(段階602)。テクスチャ変換に使用されるマトリックスには、ワールドマトリックス、プロジェクションマトリックス及びビュー(view)マトリックスなどがある。
変換に使用されるマトリックスが設定された後、ステージ設定情報によってモジュレート演算を通じて色相を組み合わせる過程が行われる(段階604)。一般的に、テクスチャに対して指定された色相と、定点に対して指定された色相との組み合わせがなされる。
段階602で設定されたマトリックスをテクスチャ座標インデックス(TCI)伝達因子として使用し、3次元のTCI座標をu、vテクスチャ座標に変換する(段階606)。座標が変換されると、定点バッファの内容をドローイングする過程を行うことでレンダリング作業が完了する(段階608)。
本発明の好適な一実施例に係る3D画面に動映像を挿入するためのモジュール構成を示した図である。 本発明の好適な一実施例に係る3D画面に動映像を挿入する方法の全体的な流れを示したフローチャートである。 本発明の好適な一実施例に係る3Dエンジンの詳細構成を示したブロック図である。 本発明の好適な一実施例に係る動映像挿入モジュールの詳細なモジュール構成を示したブロック図である。 本発明の好適な一実施例に係るテクスチャ設定過程を示したフローチャートである。 本発明の好適な一実施例に係るテクスチャレンダリング過程を示したフローチャートである。 動映像イメージが3D画面にレンダリングされる一例を示した図である。 動映像イメージが3D画面にレンダリングされる一例を示した図である。

Claims (12)

  1. (a)サーバーから動映像広告データを受信する段階と、
    (b)前記受信した動映像広告データの動映像ファイル形式を判断し、前記判断された動映像ファイル形式に対応する動映像プレーヤーを呼び出す段階と、
    (c)前記動映像プレーヤーによってキャプチャされる動映像広告のイメージを、予め設定された時間間隔で予め設定された動映像ドローイングメモリ領域にドローイングする段階と、
    (d)前記動映像ドローイングメモリ領域に保存されたイメージデータに対してテクスチャが挿入される3Dゲーム画面での座標情報を含むテクスチャの情報を設定する段階と、
    (e)前記テクスチャの情報に応じて前記動映像広告のキャプチャイメージに対応するテクスチャを3Dゲーム画面にレンダリングする段階と、を含み、
    前記動映像広告が使用者インターフェースとして挿入されるFlash形式の動映像である場合に、前記3Dゲーム画面にレンダリングされた動映像広告の特定領域に使用者イベントが発生するとき、使用者イベントが発生した座標情報を前記動映像プレーヤーでの動映像座標情報に変換する段階をさらに含み、
    前記動映像プレーヤーは、前記動映像座標情報を受信し、対応する座標での使用者イベントの発生に関連する予め設定されたプロセスを行うことを特徴とする3D画面に動映像を挿入する方法。
  2. 前記動映像広告データは、予め設定されたスケジューリングアルゴリズムによってサーバーから伝送されることを特徴とする請求項に記載の3D画面に動映像を挿入する方法。
  3. 前記段階(c)は、
    前記動映像プレーヤーに特定フレームのキャプチャイメージのドローイングを要請する段階と、
    前記動映像プレーヤーが、前記動映像ドローイングメモリ領域に要請されたキャプチャイメージデータをドローイングする段階と、
    を含むことを特徴とする請求項1又は2に記載の3D画面に動映像を挿入する方法。
  4. 前記段階(c)は、
    前記動映像プレーヤーが動映像広告を再生する際に、予め設定された時間間隔に対応するフレームイメージをキャプチャすることを特徴とする請求項1から3のいずれか1つに記載の3D画面に動映像を挿入する方法。
  5. 前記予め設定された時間間隔は、3Dゲーム画面が更新される時間間隔であることを特徴とする請求項1から4のいずれか1つに記載の3D画面に動映像を挿入する方法。
  6. 前記段階(d)は、
    テクスチャ座標を設定する段階と、
    3Dゲーム画面に挿入される前記テクスチャの情報をロードする段階と、
    テクスチャステージを生成する段階と、
    定点バッファを生成し、生成された定点バッファを充填する段階と、を含むことを特徴とする請求項1から5のいずれか1つに記載の3D画面に動映像を挿入する方法。
  7. 前記テクスチャの情報は、前記特定フレームのキャプチャイメージがドローイングされるメモリ領域を指定することでロードされることを特徴とする請求項に記載の3D画面に動映像を挿入する方法。
  8. 3Dゲーム画面に動映像広告を挿入する方法を実行させるためのプログラムを記録したコンピュータ読取可能な記録媒体であって、
    (a)サーバーから動映像広告が伝送される場合に、前記伝送された動映像広告の動映像ファイル形式を判断し、前記判断された動映像ファイル形式に対応する動映像プレーヤーを呼び出し、前記動映像プレーヤーに前記伝送された動映像広告の再生を要請する段階と、
    (b)前記動映像プレーヤーとの通信を通じて、予め設定された時間間隔で特定フレームの動映像広告のキャプチャイメージを予め設定された動映像ドローイングメモリ領域にドローイングする段階と、
    (c)前記動映像ドローイングメモリ領域に保存されたイメージデータに対してテクスチャが挿入される3Dゲーム画面での座標情報を含むテクスチャの情報を設定する段階と、
    (b)座標変換マトリックスを含むレンダリング情報を設定し、前記テクスチャの情報に応じて前記動映像広告のキャプチャイメージに対応するテクスチャを3Dゲーム画面の所定の位置にレンダリングする段階と、
    前記動映像広告が使用者インターフェースとして挿入されるFlash形式の動映像である場合に、前記3Dゲーム画面にレンダリングされた動映像広告の特定領域に使用者イベントが発生するとき、当該使用者イベントが発生した座標情報を前記動映像プレーヤーでの動映像座標情報に変換し、前記動映像座標情報を受信して対応する座標での使用者イベントの発生に関連して予め設定されたプロセスを行う前記動映像プレーヤーに提供する段階と、
    を実行させるためのプログラムを記録した記録媒体。
  9. 前記動映像広告データは予め設定されたスケジューリングアルゴリズムによって前記サーバーから伝送されることを特徴とする請求項に記載のプログラムを記録した記録媒体。
  10. 前記段階(b)は、予め設定された時間間隔で特定フレームの動映像キャプチャイメージのドローイングを前記動映像プレーヤーに要請し、
    前記動映像プレーヤーは、予め設定された動映像イメージドローイングメモリ領域に前記要請されたキャプチャイメージをドローイングすることを特徴とする請求項8又は9に記載のプログラムを記録した記録媒体。
  11. 前記段階(c)でのテクスチャの情報の設定において、特定フレームの動映像広告のキャプチャイメージがドローイングされるメモリ領域を指定することでテクスチャをロードすることを特徴とする請求項8から10のいずれか1つに記載のプログラムを記録した記録媒体。
  12. 前記テクスチャ設定情報及びレンダリング設定情報に従って、動映像広告のキャプチャイメージに対応するテクスチャを3Dゲーム画面にレンダリングする段階をさらに含むことを特徴とする請求項8から11のいずれか1つに記載のプログラムを記録した記録媒体。
JP2008518040A 2005-06-24 2006-06-23 3d画面に動映像を挿入する方法及びその記録媒体 Active JP4686602B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020050055261A KR100610689B1 (ko) 2005-06-24 2005-06-24 3차원 화면에 동영상을 삽입하는 방법 및 이를 위한 기록매체
KR10-2005-0055261 2005-06-24
PCT/KR2006/002435 WO2006137713A1 (en) 2005-06-24 2006-06-23 Method for inserting moving picture into 3-dimension screen and record medium for the same

Publications (2)

Publication Number Publication Date
JP2008544393A JP2008544393A (ja) 2008-12-04
JP4686602B2 true JP4686602B2 (ja) 2011-05-25

Family

ID=37185227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008518040A Active JP4686602B2 (ja) 2005-06-24 2006-06-23 3d画面に動映像を挿入する方法及びその記録媒体

Country Status (4)

Country Link
US (1) US8952967B2 (ja)
JP (1) JP4686602B2 (ja)
KR (1) KR100610689B1 (ja)
WO (1) WO2006137713A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8003813B2 (en) * 2006-06-27 2011-08-23 Pos Pilot Plant Corporation Process for separating saturated and unsaturated fatty acids
JP2008197928A (ja) * 2007-02-13 2008-08-28 Good House:Kk 動画内蔵プログラム
KR101490005B1 (ko) * 2010-03-05 2015-02-04 제너럴 인스트루먼트 코포레이션 3-차원 비디오 콘텐츠로의 삽입을 위해 2-차원 비디오 콘텐츠를 변환하는 방법 및 장치
JP5268991B2 (ja) * 2010-05-18 2013-08-21 株式会社東芝 情報処理装置および映像コンテンツ再生方法
CN103578126A (zh) * 2012-08-09 2014-02-12 福州福昕软件开发有限公司北京分公司 一种将gif图片转换到pdf文档后动态显示图片的方法
US9717982B2 (en) * 2012-12-21 2017-08-01 Microsoft Technology Licensing, Llc Client rendering of latency sensitive game features
USD781734S1 (en) * 2013-09-13 2017-03-21 Proceq Ag Sensor for measuring materials
CN105727556B (zh) * 2016-01-29 2019-05-31 腾讯科技(深圳)有限公司 一种图像绘制的方法、相关设备及系统
CN111292387B (zh) * 2020-01-16 2023-08-29 广州小鹏汽车科技有限公司 动态图片的加载方法、装置、存储介质及终端设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08161511A (ja) * 1994-12-02 1996-06-21 Sony Corp 画像生成装置
JP2000259860A (ja) * 1999-03-12 2000-09-22 Square Co Ltd ゲーム装置、動画像表示方法及び記録媒体
JP2001014485A (ja) * 1999-07-01 2001-01-19 Matsushita Electric Ind Co Ltd 画像表示装置
JP2002253847A (ja) * 2001-02-28 2002-09-10 Konami Co Ltd 家庭用ゲーム等のゲーム広告課金システム及びプログラム
JP2004021466A (ja) * 2002-06-14 2004-01-22 Matsushita Electric Ind Co Ltd メニュー制作装置及びメニュー制作方法

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4935879A (en) * 1987-08-05 1990-06-19 Daikin Industries, Ltd. Texture mapping apparatus and method
JP3024145B2 (ja) * 1989-07-12 2000-03-21 株式会社日立製作所 テクスチャマッピング方法
US4970593A (en) * 1989-08-28 1990-11-13 Sperry Marine Inc. Video image enhancement utilizing a two-dimensional digital aperture correction filter
US5214511A (en) * 1990-11-30 1993-05-25 Sony Corporation Image transforming apparatus
US5261041A (en) * 1990-12-28 1993-11-09 Apple Computer, Inc. Computer controlled animation system based on definitional animated objects and methods of manipulating same
JPH07325934A (ja) * 1992-07-10 1995-12-12 Walt Disney Co:The 仮想世界に向上したグラフィックスを提供する方法および装置
US5546518A (en) * 1995-01-06 1996-08-13 Microsoft Corporation System and method for composing a display frame of multiple layered graphic sprites
US5798762A (en) * 1995-05-10 1998-08-25 Cagent Technologies, Inc. Controlling a real-time rendering engine using a list-based control mechanism
CA2180899A1 (en) * 1995-07-12 1997-01-13 Yasuaki Honda Synchronous updating of sub objects in a three dimensional virtual reality space sharing system and method therefore
DE69620580T2 (de) * 1995-11-14 2002-11-28 Sony Corp., Tokio/Tokyo Vorrichtung und verfahren zur bildverarbeitung
US5754170A (en) * 1996-01-16 1998-05-19 Neomagic Corp. Transparent blocking of CRT refresh fetches during video overlay using dummy fetches
JP3198980B2 (ja) * 1996-10-22 2001-08-13 松下電器産業株式会社 画像表示装置及び動画像検索システム
US6289163B1 (en) * 1998-05-14 2001-09-11 Agilent Technologies, Inc Frame-accurate video capturing system and method
US6650327B1 (en) * 1998-06-16 2003-11-18 Silicon Graphics, Inc. Display system having floating point rasterization and floating point framebuffering
JP2000090290A (ja) * 1998-07-13 2000-03-31 Sony Corp 画像処理装置および画像処理方法、並びに媒体
US6373482B1 (en) * 1998-12-23 2002-04-16 Microsoft Corporation Method, system, and computer program product for modified blending between clip-map tiles
US6583793B1 (en) * 1999-01-08 2003-06-24 Ati International Srl Method and apparatus for mapping live video on to three dimensional objects
JP4151158B2 (ja) * 1999-06-14 2008-09-17 ソニー株式会社 シーン記述生成装置及び方法
US7230653B1 (en) * 1999-11-08 2007-06-12 Vistas Unlimited Method and apparatus for real time insertion of images into video
US6834195B2 (en) * 2000-04-04 2004-12-21 Carl Brock Brandenberg Method and apparatus for scheduling presentation of digital content on a personal communication device
WO2001061539A2 (en) * 2000-02-14 2001-08-23 Ferreira, Jose, P., S. Methods and systems for presenting a virtual representation of a real city
JP4155691B2 (ja) 2000-03-07 2008-09-24 富士通株式会社 3次元インタラクティブゲームシステムおよびそれを用いた広告システム
KR20000037114A (ko) * 2000-04-07 2000-07-05 송찬호 가상현실공간에서의 광고기법
US6954728B1 (en) * 2000-05-15 2005-10-11 Avatizing, Llc System and method for consumer-selected advertising and branding in interactive media
KR20010108924A (ko) * 2000-06-01 2001-12-08 전선규 인터넷 상에서 머그 게임을 이용한 광고 방법
KR100401165B1 (ko) * 2000-07-19 2003-10-10 최형욱 3차원 머드게임에서 정보제공, 광고 및 전자상거래가가능한 3차원 가상공간을 제공하는 방법과 시스템 및 이방법을 기록한 컴퓨터로 읽을 수 있는 기록 매체
US6606097B1 (en) * 2000-08-03 2003-08-12 International Business Machines Corporation Circuit for generating frame buffer values
US6570575B1 (en) * 2000-08-18 2003-05-27 Hewlett-Packard Development Company, L.P. Associated color texture processor for high fidelity 3-D graphics rendering
US20020038456A1 (en) * 2000-09-22 2002-03-28 Hansen Michael W. Method and system for the automatic production and distribution of media content using the internet
US7786999B1 (en) * 2000-10-04 2010-08-31 Apple Inc. Edit display during rendering operations
US9047609B2 (en) * 2000-11-29 2015-06-02 Noatak Software Llc Method and system for dynamically incorporating advertising content into multimedia environments
US20020198962A1 (en) * 2001-06-21 2002-12-26 Horn Frederic A. Method, system, and computer program product for distributing a stored URL and web document set
US6795972B2 (en) * 2001-06-29 2004-09-21 Scientific-Atlanta, Inc. Subscriber television system user interface with a virtual reality media space
US20050063596A1 (en) * 2001-11-23 2005-03-24 Yosef Yomdin Encoding of geometric modeled images
CA2493194A1 (en) * 2002-07-22 2004-01-29 Mediaone Network Inc. Auxiliary content delivery system
GB2404546B (en) * 2003-07-25 2005-12-14 Purple Interactive Ltd A method of organising and displaying material content on a display to a viewer
US20050030309A1 (en) 2003-07-25 2005-02-10 David Gettman Information display
EP1531322A3 (en) * 2003-11-13 2007-09-05 Matsushita Electric Industrial Co., Ltd. Map display apparatus
US7340678B2 (en) * 2004-02-12 2008-03-04 Fuji Xerox Co., Ltd. Systems and methods for creating an interactive 3D visualization of indexed media
US20060080702A1 (en) * 2004-05-20 2006-04-13 Turner Broadcasting System, Inc. Systems and methods for delivering content over a network
JP2005332521A (ja) * 2004-05-21 2005-12-02 Toshiba Corp 情報記録媒体及び情報再生装置
US20050289590A1 (en) * 2004-05-28 2005-12-29 Cheok Adrian D Marketing platform
WO2006099395A2 (en) * 2005-03-11 2006-09-21 Adobe Systems, Inc. System and method for displaying information using a compass

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08161511A (ja) * 1994-12-02 1996-06-21 Sony Corp 画像生成装置
JP2000259860A (ja) * 1999-03-12 2000-09-22 Square Co Ltd ゲーム装置、動画像表示方法及び記録媒体
JP2001014485A (ja) * 1999-07-01 2001-01-19 Matsushita Electric Ind Co Ltd 画像表示装置
JP2002253847A (ja) * 2001-02-28 2002-09-10 Konami Co Ltd 家庭用ゲーム等のゲーム広告課金システム及びプログラム
JP2004021466A (ja) * 2002-06-14 2004-01-22 Matsushita Electric Ind Co Ltd メニュー制作装置及びメニュー制作方法

Also Published As

Publication number Publication date
US20100156932A1 (en) 2010-06-24
KR100610689B1 (ko) 2006-08-09
JP2008544393A (ja) 2008-12-04
US8952967B2 (en) 2015-02-10
WO2006137713A1 (en) 2006-12-28

Similar Documents

Publication Publication Date Title
JP4686602B2 (ja) 3d画面に動映像を挿入する方法及びその記録媒体
US7905779B2 (en) Video game including effects for providing different first person experiences of the same video game world and a storage medium storing software for the video game
US8363051B2 (en) Non-real-time enhanced image snapshot in a virtual world system
US8411092B2 (en) 2D imposters for simplifying processing of plural animation objects in computer graphics generation
US20080246760A1 (en) Method and apparatus for mapping texture onto 3-dimensional object model
US7019742B2 (en) Dynamic 2D imposters of 3D graphic objects
KR101536501B1 (ko) 동화상 배포 서버, 동화상 재생 장치, 제어 방법, 기록 매체, 및 동화상 배포 시스템
JP4982862B2 (ja) プログラム、情報記憶媒体及び画像生成システム
JP7425196B2 (ja) ハイブリッドストリーミング
JP2008250813A (ja) 画像生成装置、画像処理方法、および、プログラム
EP2065854A1 (en) Image processing device, control method for image processing device and information recording medium
JP4412715B2 (ja) プログラム、情報記憶媒体および画像生成システム
Thorn Learn unity for 2d game development
JP2002063596A (ja) ゲームシステム、プログラム及び情報記憶媒体
JP2007164582A (ja) プログラム、情報記憶媒体及び画像生成システム
JP2006252426A (ja) プログラム、情報記憶媒体及び画像生成システム
JP2003168130A (ja) リアルタイムで合成シーンのフォトリアルなレンダリングをプレビューするための方法
JP4651204B2 (ja) 画像生成システム、プログラム及び情報記憶媒体
JP2001079261A (ja) 画像生成システム及び情報記憶媒体
JP4266121B2 (ja) 画像生成システム、プログラム及び情報記憶媒体
KR100610690B1 (ko) 3차원 화면에 플래시 동영상 삽입 방법 및 이를 위한 기록매체
JP2009064355A (ja) プログラム、情報記憶媒体及び画像生成システム
JP2002035409A (ja) ゲームシステム及び情報記憶媒体
JP4162125B2 (ja) 画像生成システム、プログラム及び情報記憶媒体
JP2010231364A (ja) 画像生成システム、プログラム及び情報記憶媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110214

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140218

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4686602

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250