JP3177221B2 - 興味深いシーンのイメージを表示するための方法及び装置 - Google Patents

興味深いシーンのイメージを表示するための方法及び装置

Info

Publication number
JP3177221B2
JP3177221B2 JP00007499A JP7499A JP3177221B2 JP 3177221 B2 JP3177221 B2 JP 3177221B2 JP 00007499 A JP00007499 A JP 00007499A JP 7499 A JP7499 A JP 7499A JP 3177221 B2 JP3177221 B2 JP 3177221B2
Authority
JP
Japan
Prior art keywords
image
video data
scene
video
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP00007499A
Other languages
English (en)
Other versions
JPH11296667A (ja
Inventor
ケー−シン・フ・チェン
ケーラノール・ジー・クメール
ジェイムズ・サージェント・リプスコウム
ジャイ・プラカシュ・メノン
マーク・ハーバート・ウィルビーク−ルメール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JPH11296667A publication Critical patent/JPH11296667A/ja
Application granted granted Critical
Publication of JP3177221B2 publication Critical patent/JP3177221B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/23Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding with coding of regions that are present throughout a whole video segment, e.g. sprites, background or mosaic

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、概して云えば、イ
メージ処理システムに関するものであり、更に詳しく云
えば、ユーザが興味深いシーンの複数の視野を表すデー
タからパノラマ・イメージを作成し、それを見ることを
可能にするイメージ処理システムに関するものである。
【0002】更に、本発明は、ビデオを表示するイメー
ジ処理システムに関するものでもある。
【0003】
【従来の技術】本願は、1996年8月28日出願の米
国特許出願番号08/697,652号の同時継続出
願、1996年9月27日出願の米国特許出願番号08
/720,321号の同時継続出願、1996年9月2
7日出願の米国特許出願番号08/723,970号の
同時継続出願、及び1996年11月12日出願の米国
特許出願番号08/745,524号の同時継続出願に
関連する。これらの米国特許出願の開示事項は全体とし
て本願に対する参考資料となる。
【0004】一般的な三次元グラフィックス・アプリケ
ーション及びその関連のハードウエアは、1つ又は複数
の三次元オブジェクトから成る興味深いシーンをレンダ
する。三次元では、オブジェクトは、一般に、幾何学的
プリミティブ、例えば、三角形によって表される。三次
元グラフィックス・アプリケーションは、モデル座標シ
ステムにおけるそれら幾何学的プリミティブの位置及び
カラーを表すグラフィックス・データを記憶する。その
グラフィックス・アプリケーションは、ユーザがグラフ
ィックス・データを操作してシーンをレンダすること、
即ち、可視的であるシーンのオブジェクトを視点に基づ
いて表示ウインドウに表示することを可能にする。ユー
ザは、視点基準の位置及び向きを変化させることによっ
て(例えば、カメラの視点基準を変更することによっ
て)、興味深いシーンを通してナビゲートすることがで
きる。又、視点基準の一連の事前選択された位置及び向
きを通してナビゲートすることによって、アニメーショ
ンを行うことも可能である。
【0005】レンダリング・オペレーションは計算的に
集中したプロセスであり、従って、一般には、特殊のグ
ラフィックス・ハードウエアによって行われる。そのよ
うなシステムは強力であるが、この目的のために専用の
特殊なハードウエアを必要とするために高価である。
【0006】更に、一般的な三次元グラフィックス・シ
ステムは、ユーザがシーンの三次元モデルを提供するこ
と(即ち、モデル座標システムにおけるそのシーンの幾
何学的プリミティブの位置及びカラーを表すグラフィッ
クス・データを定義すること)を必要とする。そのよう
な三次元モデルは、周辺装置(例えば、ペン・タブレッ
ト、スキャナ、カメラ等)と関連してソフトウエアによ
り作成可能である。例えば、三次元グラフィックス・ソ
フトウエア・パッケージがフランスの Dassault System
s 社によって「CATIA」という商品名で販売されて
いる。そのCATIAシステムは、ユーザが興味深いシ
ーンの三次元モデルを形成することを可能にする。しか
し、CATIAのようなモデル化ソフトウエアは高価で
あり、比較的複雑でないシーンに対してさえも、グラフ
ィックス・データを定義するためにかなりの労力投資が
必要とされるであろう。
【0007】一般的な三次元グラフィックス・システム
と関連したコストは高いために、三次元のシーンを作成
し及び見る場合に効果的な、しかも、限られた機能を提
供する代替えの解決方法が出現した。その代替えの解決
方法は、一般的には、専用のグラフィックス・ハードウ
エアを必要としない標準的なパーソナル・コンピュータ
上での使用に適している。そのような解決方法の1つ
は、PANORAMIXという商品名でIBM社により
開発及び販売されているソフトウエアである。
【0008】PANORAMIXシステムは、興味深い
シーンのパノラマ表示(又は、イメージの集合体)を表
すために円筒形又は多面形の環境マップを使用する。円
筒型の環境マップを所望の表示ウインドウにマッピング
することによって、種々の投影図がレンダされる。
【0009】もう1つのそのようなパノラマ・ビューア
は、米国カリフォルニア州クーパチーノの Apple Compu
ter 社によってQUICKTIMEVRの商品名で開発
及び販売されたソフトウエア・システムである。そのQ
UICKTIMEVRソフトウエアは2つのパッケージ
にセグメント化される。コンテント供給業者に販売され
る第1パッケージは、コンテント供給業者がシーンの複
数の視野からパノラマ・イメージを開発することを可能
にするオーサリング・ツールである。第2パッケージ
は、消費者に分配されるビューアであって、消費者がオ
ーサリング・ツールによって作成されたパノラマ・イメ
ージを見ることを可能にするビューアである。QUIC
KTIMEVRシステムのオペレーションの更に詳細な
説明は、米国カリフォルニア州ロサンジェルス市199
5のACM SIGGRAPH社発行のChen 著「Qui
cktimeVR -- 仮想環境ナビゲーションへのイメ
ージ・ベースのアプローチ(QuicktimeVR -- An Image-
based Approach to VirtualEnvironment Navigatio
n)」の第29乃至38ページ、及び Chen 氏他によっ
て発明され、Apple Computer社に譲渡された「スキャン
ライン・コヒーレンスを使用する円筒形から平面形への
イメージ・マッピング(Cylindrical to Planar Image
Mapping Using Scanline Coherence)」と題した199
5年3月7日発行の米国特許第5,396,583号にお
いて見ることが可能である。
【0010】QUICKTIMERVRシステムは、興
味深いシーン(又は、イメージの集合体)のパノラマ・
ビューを表すために円筒形の環境マップを使用する。円
筒形の環境マップを所望の表示ウインドウにマッピング
することによって、種々の投影図がレンダされる。
【0011】他の市販のパノラマ表示システムは、RE
ALSPACE VR、PHOTOBUBBLES、及
びJUTVISIONを含む。しかし、これらの市販の
システムは、興味深いシーンのパノラマ表示におけるス
トリーミング・ビデオの組み込みを可能にするものでは
ない。
【0012】パノラマ・シーン上にストリーミング・ビ
デオをオーバレイするという概念は、「カメラ環境パノ
ラマを使用するテレビ会議(Video Conference using C
amera Environment Panoramas)」と題した Chandra Na
rayanaswami 氏による1996年11月12日出願の米
国特許出願番号08/745,524号の同時継続に開
示されている。この特許出願では、テレビ会議に対する
帯域幅を減少させるための方法として、ビデオ・データ
がパノラマ・イメージ上にオーバレイされる。その特許
出願では、パノラマ環境マップは、一旦ダウンロードさ
れ、しかる後、対話的にブラウズされる静的データであ
ると考えられる。別の方法として、ビデオ・データは、
動的なデータ又は時間変化するデータであると見なされ
る。同様に、「環境マップ上にビット・マップ・イメー
ジをオーバレイするための方法及び装置(Method and A
pparatus for Overlaying Bit Map Image on an Enviro
nment Map)」と題した Lipscomb 氏他による1996
年9月27日出願の米国特許出願番号08/723,9
70号は、第1イメージの二次元ビット・マップを、パ
ノラマ環境マップの一部から作られた第2イメージ上に
コピーする方法を開示している。
【0013】
【発明が解決しようとする課題】本発明の第1の目的及
び利点は、パノラマ・イメージ及び組み込まれたビデオ
・イメージの表示を可能にするイメージ処理システムを
提供することにある。
【0014】本発明のもう1つの目的及び利点は、パノ
ラマ・イメージ及び組み込まれたビデオ・イメージの表
示を同期化することを可能にするイメージ処理システム
を提供することにある。
【0015】本発明の更なる目的及び利点は、興味深い
シーンのパノラマ・イメージとビデオ・イメージの継続
的に受信されたストリームとを同期的に結合することに
よってそのシーンを表示するイメージ処理システムを提
供することにある。
【0016】本発明の更なる目的及び利点は、添付図面
及びそれに伴う説明を考察することによって更に明らか
になるであろう。
【0017】
【課題を解決するための手段】ストリーミング・ビデオ
・データが表示のためにパノラマ・イメージ内に組み込
まれると云う本発明の実施例に従った方法及び装置によ
って、上記及びその他の問題点は克服され、本発明の目
的は実現される。
【0018】本発明は、興味深いシーンのイメージを、
そのシーンの記憶された環境マップから及びそのシーン
のビデオ・データから表示するための方法を教示するも
のである。その方法は、次のようなステップを含む。即
ち、 (A)そのシーンのビデオ・データを受信及び記憶す
る; (B)そのシーンの視点基準を選択する; (C)そのシーンの選択された視点基準に従ってビデオ
・データを検索する; (D)そのシーンの選択された視点基準に対する第1イ
メージを発生するために、その選択された視点基準に従
って環境マップをレンダする; (E)その選択された視点基準に対する合成イメージを
形成するために、検索されたビデオ・データ及び第1イ
メージを同期的に結合する; (F)合成イメージを表示する。
【0019】1つの実施例では、興味深いシーンのイメ
ージを表示するための方法は、イメージ・データ及び音
声データを含むビデオ・データ・パケットを連続的に受
信するステップを含む。この実施例では、イメージ・デ
ータの選択された部分が表示されている間、音声データ
は連続的に再生される。
【0020】もう1つの実施例では、興味深いシーンの
イメージを表示するための方法は、発生されたビデオ・
データ及び第1イメージを、環境マップをレンダするこ
とによって階層化するステップを含む。本発明では、階
層化技法は、例えば、描画順序の階層化、zバッファ隠
蔽の階層化、及びクロマ・キーの階層化を含む。
【0021】本発明は、更に、興味深いシーンのイメー
ジを、そのシーンの記憶された環境マップから及びその
シーンのビデオ・データから表示するためのイメージ処
理システムを教示する。そのイメージ処理システムは、
そのシーンのビデオ・データを受信及び記憶するための
エレメント、そのシーンの向きを選択するためのエレメ
ント、そのシーンの選択された向きに従ってビデオ・デ
ータを検索するためのエレメント、そのシーンの選択さ
れた向きに対する第1イメージを発生するために、その
選択された向きに従って環境マップをレンダするための
エレメント、その選択された向きに対する合成イメージ
を形成するために、検索されたビデオ・データ及び第1
イメージを同期的に結合するためのエレメント、及び合
成イメージを表示するためのエレメントを含む。
【0022】
【発明の実施の形態】本願では、ストリーミング・ビデ
オと共にパノラマを表示するための方法及び装置が示さ
れる。
【0023】本発明は、例えば、パーソナル・コンピュ
ータ、ワークステーション、或いは、パーソナル・コン
ピュータ又はワークステーションと関連して機能するグ
ラフィックス・アダプタを含む任意のコンピュータ処理
システムにおいて実現可能である。図1には、本発明に
よる使用のための例示的なコンピュータ処理システムが
示される。その例示的なコンピュータ処理システムは、
一般的には、メモリ101、少なくとも1つの中央処理
装置(CPU)103(1つが図示されている)、及び
少なくとも1つのユーザ入力装置107(キーボード、
マウス、ジョイスティック、音声認識システム、又は手
書文字認識システムのような)を含む。又、そのコンピ
ュータ処理システムは、ROMのような不揮発性メモ
リ、又は、固定ディスク・ドライブのような不揮発性
(静的)記憶装置108を含む。その記憶装置108
は、メモリ101にロードされそしてCPU103によ
って実行されるオペレーティング・システム及び1つ又
は複数のアプリケーション・プログラムを記憶する。オ
ペレーティング・システム及びアプリケーション・プロ
グラムを実行する場合、CPUは不揮発性記憶装置10
8又はメモリ101に記憶されたデータを使用すること
ができる。
【0024】又、その例示的なコンピュータ処理システ
ムは、CPU103及びディスプレイ装置105の間に
結合されたフレーム・バッファ104を含む。ディスプ
レイ装置105はCRTディスプレイ又はLCDディス
プレイであってもよい。フレーム・バッファ104は、
ディスプレイ装置105上に示されるべきイメージを表
すピクセル・データを有する。或るシステムでは、レン
ダリング装置(図示されていない)、例えば、グラフィ
ックス・アクセラレータがCPU103及びフレーム・
バッファ104の間に結合されてもよい。
【0025】オーディオ表示はオーディオ出力装置11
0によって遂行される。オーディオ出力装置110は、
例えば、コンピュータ・システムに直接に接続された、
或いはオーディオ・カードに接続されたスピーカ又はヘ
ッドフォンであってもよく、一方、そのオーディオ・カ
ードはコンピュータ・システムに接続される。
【0026】その例示的なコンピュータ処理システム
は、CPU103に結合された通信リンク109(ネッ
トワーク・アダプタ、RFリンク、又はモデムのよう
な)を含み、その通信リンクは、CPU103がその通
信リンクを介して、例えば、インターネットを介して他
のコンピュータ・システムとコミュニケートすることを
可能にする。CPU103は、オペレーティング・シス
テムの一部分、アプリケーション・プログラムの一部
分、又は通信リンクを介してオペレーティング・システ
ム又はアプリケーション・プログラムを実行する場合に
CPU103によって使用されるデータの一部分を受信
することが可能である。
【0027】CPU103によって実行されるアプリケ
ーション・プログラムは、詳しく後述される本発明のレ
ンダリング方法を遂行することも可能である。別の方法
として、後述のレンダリング方法の一部分又はすべて
が、CPU103によって実行されるアプリケーション
・プログラムと関連して動作するハードウエアにおいて
具体化可能である。
【0028】前述のように、ストリーミング・ビデオを
パノラマ・シーン上にオーバレイするという概念はイメ
ージ処理の分野において知られており、それに関して
は、例えば、上記引用の米国特許出願と同様に譲渡され
た同時継続の米国特許出願08/745,524号及び
同08/723,970号を見て欲しい。図2及び図3
には、独立したパノラマ表示プロセスが示される。この
プロセスを実行する前に、バックグラウンド環境マップ
が発生され、ソース・システムからターゲット・システ
ムにコミュニケートされる。バックグラウンド環境マッ
プは、例えば、エレメント又はピクセルの矩形アレイか
ら成る円筒形の環境マップである。それらのエレメント
又はピクセルの各々は、三次元のシーンの一部分を表す
データを含んでいる。図4は、多くの矩形領域に分割さ
れる円筒形の環境マップ201を示す。所与の矩形エリ
ア302は興味深いシーンの特定の向き又は視点であ
る。一旦、円筒形環境マップがターゲット・システムに
よって受信されそして記憶されると、パノラマ表示プロ
セスが開始可能である。
【0029】再び、図2及び図3を参照すると、ブロッ
ク202において、独立したパノラマ表示プロセスが円
筒形の環境マップ201、即ち、パノラマ・イメージを
読み取ることによって開始する。円筒形の環境マップ2
01を読み取ることによって、マップ201の選択され
た部分、即ち、所望の向き又は表示ウインドウが表示の
ために選択される。ブロック204において、その選択
された円筒形部分を興味深いシーンの歪曲補正された投
影に変換するパノラマ・ステージング変換が遂行され
る。ブロック206において、その歪曲補正された投影
がパノラマ・ステージング・バッファ203に記憶され
る。ブロック208において、表示更新変換が行われ、
その結果、パノラマ・ステージング・バッファ203の
内容がディスプレイ・バッファ205にコピーされる。
次に、歪曲補正された投影、即ち、パノラマ・ステージ
ング・バッファ203の内容をディスプレイ・バッファ
205から表示する準備ができ、パノラマ表示プロセス
は終了する。
【0030】図5は、パノラマ・ステージング変換を遂
行するための方法を示す。その変換では、円筒形の環境
マップ201の円筒形の投影が歪曲補正された投影40
2に変換される。その変換は、基点0及びポイントa、
b、c、及びdによって定義された細いピラミッドをポ
イントA、B、C、及びDによって定義された矩形のエ
リア402にマッピングすることによって達成される。
そのマッピング・プロセスは、上記引用の一般的に譲渡
された同時継続出願である米国特許出願番号08/74
5,524号及び同08/723,970号において詳細
に記載されている。
【0031】図6及び図7には、独立のビデオ表示プロ
セスが示される。ブロック502では、記録されそして
ソース・システムからターゲット・システムに伝送され
たビデオ・データ・パケット601を受信することによ
って、ビデオ表示プロセスが始まる。そのビデオ・デー
タ・パケット601は、例えば、ソース・システムにお
いて記録されたイメージ・データ、サウンド・データ、
及び命令を含み得るものである。ブロック504におい
て、その受信されたイメージ・データはビデオ・バッフ
ァ・プール602において一連のフレームとしてアセン
ブルされ、記憶される。ビデオ・データ・パケット60
1を受信するステップ及びイメージ・データをビデオ・
バッファ・プール602に記憶するステップは、ソース
・システムがターゲット・システムにビデオ・データ・
パケットを連続的に送出する時には繰り返す。ブロック
506において、一連のイメージ・データ・フレームが
ビデオ・バッファ・プール602のビデオ・ステージン
グ・バッファ603から選択される。その一連のイメー
ジ・データ・フレームが表示のためにビデオ・ステージ
ング・バッファ603から選択されている間、サウンド
・データが連続的に再生される。
【0032】次に、ブロック508において、表示更新
変換が行われる。それは、その選択されたイメージ・デ
ータ・フレームを、表示するに適したフォーマットに変
換する。例えば、その表示更新変換は、24ビットのカ
ラーを8ビットのカラーに、即ち、所望のカラーに近い
カラーを持ったエントリをカラー・マップするために2
4ビットの赤・緑・青の値を8ビットのポインタに変換
するものでよい。ブロック510において、その変換さ
れたイメージ・データ604がビデオ・ディスプレイバ
ッファ605に記憶される。そこで、その変換されたイ
メージ・データ604は、ブロック512においてビデ
オ・ディスプレイ・バッファ605からの表示の準備が
でき、ビデオ表示プロセスは終了する。
【0033】本発明によれば、上記の独立したパノラマ
表示プロセス及びビデオ表示プロセスは結合され、興味
深いシーンのパノラマ表示が組み込みのストリーミング
・ビデオとレンダされるように同時にランする。その結
果、ストリーミング・ビデオ・イメージはパノラマ・イ
メージに組み込まれて表示される。
【0034】第1に注目すべきことは、本発明の結合プ
ロセスがそれらの独立したプロセスを多くの方法で改良
することである。前述の米国特許出願08/745,5
24号には、テレビ会議のための帯域幅を減少させる1
つの方法として、ビデオ・データをパノラマ・イメージ
上にオーバレイすることが教示されている。更に、パノ
ラマ環境マップが静的データと見なされてターゲット・
システムに一回しか伝送されず、一方、ビデオ・データ
は動的データであり、それが記録された時又は記録され
た直後に、ターゲット・システムに伝送されることが教
示されている。本発明は、ネットワーク帯域幅を効率的
に利用する方法で静的データ及び動的データの伝送を統
合する。先ず、静的パノラマ・イメージをダウンロード
するためにネットワーク帯域幅が使用され、しかる後、
前述の米国特許出願08/723,970号において開
示されたようなストリーミング・テクノロジを使用して
動的ビデオを伝送するためにそのネットワーク帯域幅が
利用される。それらの静的及び動的データ・コンポーネ
ントは、後述のように、その後、合成イメージとして表
示するためにインターリーブされる。
【0035】本発明は上述の独立したプロセスと同じス
テップを含み得るけれども、それの改良は、ソースとし
てのストリーミング・ビデオ・データの使用、ビデオ表
示プロセス及びパノラマ表示プロセスの同期化、パノラ
マ・イメージ及びビデオ・イメージを表示のために結合
する合成変換ステップの追加を含むことがわかる。結合
されたプロセスは、ビデオ表示及びパノラマ表示の同期
化の失敗及び表示前におけるビデオの変換の遂行の失敗
を含む独立したプロセスにおける認識された不利な条件
を克服することがわかる。本発明では、ビデオ・データ
変換ステップは、例えば、スケーリングする機能、クリ
ップする機能、剪断する機能、伸張する機能、クロマ・
キー(chroma key)する機能、及びビデオ・イメージを
パノラマ・イメージに階層化する機能を含む。
【0036】図8には、パノラマ表示及びビデオ表示の
結合プロセスが示される。その結合プロセスでは、独立
したパノラマ表示プロセス及びビデオ表示プロセスにお
いて述べたものと同じ数のステップが動作することは明
らかである。従って、その結合プロセスのうちのパノラ
マ表示部分(ブロック202乃至206)では、記憶さ
れたバックグラウンド環境マップが読み取られ、円筒形
部分がパノラマ変換機能によって歪曲補正された投影変
換される。同様に、ビデオ表示部分(ブロック502乃
至506)では、連続的に受信されたビデオ・データ・
パケットのイメージ・データが表示のために選択され
る。しかし、その結合プロセスのブロック708では、
新しい変換機能、即ち、合成変換がビデオ・ステージン
グ・バッファ603からの選択されたビデオ・イメージ
・データを変換する。次に、ブロック710において、
その変換されたビデオ・イメージ・データが、パノラマ
表示プロセスの歪曲補正された投影と結合されて合成イ
メージを形成する。ブロック712において、合成イメ
ージは表示のためにパノラマ・ステージング・バッファ
203に記憶される。ブロック208において、パノラ
マ・ステージング・バッファ203がディスプレイ・バ
ッファ205にコピーされる時、独立したパノラマ表示
プロセスが再開する。この場合、パノラマ・ステージン
グ・バッファ203の内容は合成イメージである。次
に、ブロック210において、その合成イメージは、デ
ィスプレイ・バッファ205から表示する準備ができ、
結合表示プロセスは終了する。
【0037】本発明の一実施例では、合成変換機能は、
選択されたシーケンスのイメージ・データを含むビデオ
・ステージング・バッファ603にポインタを送ること
によって、ビデオ表示プロセス(ブロック502乃至5
06)が、表示されるべきイメージ・データの選択され
たシーケンスを識別するというステップを含む。この実
施例では、ポインタは、例えば、サブルーチン・コール
の引き数として送られる。パノラマ表示プロセス及びビ
デオ表示の結合プロセスは、そのサブルーチン・コール
における引き数がイメージ・データの選択されたシーケ
ンスを含むビデオ・ステージング・バッファ603のロ
ケーション又はアドレスである場合、そのビデオ表示プ
ロセスのサブルーチンを呼び出すことができることは明
らかである。別の方法として、ビデオ表示プロセスは、
そのパノラマ表示及びビデオ表示の結合プロセスのサブ
ルーチンを、ビデオ・ステージング・バッファ603の
アドレスを保持するパラメータによって呼び出すことが
できる。そのパノラマ表示及びビデオ表示の結合プロセ
スは、その後の使用のためにそのパラメータを記憶す
る。表示されるべきイメージ・データの選択されたシー
ケンスを識別するために、他の多くの方法(例えば、外
部事象等)が利用可能であることが当業者には明らかで
あることは注目される。
【0038】前述のように、本発明のもう1つの実施例
では、合成変換機能は、選択されたビデオ・イメージ・
データがパノラマ・イメージに組み込まれる前に、それ
がスケーリングされ、クリップされ、剪断され、伸張さ
れ、クロマ・キーされ、及び階層化されるというステッ
プを含む。この実施例は、ビデオ・イメージ・データが
ソース・システムから受信された時に受信されたサウン
ド・データに対する音量制御のステップも含む。前述の
ように、イメージ・データが選択されている間、サウン
ド・データは連続的に再生される。
【0039】上記の説明から、その結合プロセスと独立
プロセスとを区別するエレメントが、少なくとも、パノ
ラマ描画プロセス及びビデオ描画プロセスを同期化する
機能、並びに合成変換ステップを含むことは明らかであ
る。これらのエレメントに関しては詳しく後述すること
にする。
【0040】本発明では、同期化方法は次のようなステ
ップの調整を含む。 1.パノラマ・ステージング変換を遂行する(ブロック
204); 2.変換されたイメージ・データとパノラマ・データと
の結合を含む合成変換を遂行する(ブロック708及び
710); 3.表示更新変換を遂行する(ブロック208);これ
は、パノラマ・ステージング・バッファ203の内容を
表示のためにディスプレイ・バッファ205に書き込
む。
【0041】これらのステップの同期化は、本発明によ
るシステム・オペレーションが連続するイメージの間で
ステージング・バッファをクリアしない場合に特に重要
であることは注目される。例えば、クリアされてないバ
ッファが、それが書き込まれつつある時に非同期的に読
み取られる場合、その読み取り結果は、前に書き込まれ
たイメージが現在書き込まれつつあるイメージとミック
スされたものを部分的に含むであろう。
【0042】図8を再び参照すると、同期化方法の第1
ステップが示される。パノラマ・ステージング変換(ブ
ロック204)及び表示更新変換(ブロック208)
は、非同期的にランする2つのプロセスとして機能する
ことがわかる。この非同期的動作モードでは、表示のた
めの時間は最適化されるが、表示更新変換が生じる時に
パノラマ・ステージング・バッファ203は部分的に更
新されたイメージを保持し得るので、イメージ切り離し
は可能である。2つの非同期的にランするプロセスは次
のようなステップを含むであろう。パノラマ・ステージ
ング変換ステップでは、 1.ブロック204において、パノラマ・ステージング
変換を遂行する; 2.視点の動きを待つ; 3.ビューの向き及びズームを更新する; 4.ステップ1に進む。 表示更新変換ステップでは、 1.ディスプレイ装置における垂直ブランキング・イン
ターバルを待つ; 2.ブロック208において、表示更新変換を遂行す
る; 3.ステップ1に進む。
【0043】しかし、プログラムが同期化された場合、
表示は遅れるであろうが、表示更新変換がそれをコピー
する時、パノラマ・ステージング・バッファは単一の完
全に形成されたイメージを含むので、イメージ切り離し
は回避されるであろう。パノラマ・ステージング変換
(パノラマ・ステージング変換だけであって、ビデオ・
ステージング変換はない)が表示更新変換と交互に行わ
れるという同期化されたプロセスは次のようなステップ
を含むであろう。 1.パノラマ・ステージング変換を遂行する(ブロック
204); 2.ディスプレイ装置における垂直ブランキング・イン
ターバルを待つ; 3.表示更新変換を遂行する(ブロック208); 4.視点の動きを待つ; 5.ビューの向き及びズームを更新する; 6.ステップ1に進む。
【0044】次に、同期化方法の第2ステップを説明す
る。その第2ステップでは、合成変換(ブロック708
及び710)、パノラマ・ステージング変換(ブロック
204)、及び表示更新変換(ブロック208)の間の
関係が分析される。ビデオ・イメージ・データはパノラ
マ・ステージング・バッファにオーバレイされようとし
ているので、同期化されたプロセスが望ましいことは注
目される。その同期化されたプロセスは、ビデオ・イメ
ージ・データなしでその変換されたパノラマを表示する
ことを回避し、或いは、それとは別に、部分的ビデオ・
イメージと共にその変換されたパノラマを表示すること
を回避する。従って、パノラマ・ステージング変換(ブ
ロック204)、合成変換(ブロック708及び71
0)、及び表示更新変換(ブロック208)の間の同期
化は、次のように同期的にランする2つのプロセスとし
て機能することがわかる。ビデオ表示プロセスでは、 1.ブロック502及び504において、ビデオ・デー
タ・パケット601をビデオ・バッファ・プール602
において受信し、新しい完全なイメージを形成するに十
分なパケットが到着するまで、イメージ・データ・フレ
ームをアセンブルする; 2.「新しいビデオ・ステージング・バッファ」フラッ
グがクリアされるまでステップ1を繰り返す; 3.「合成変換」フラッグがクリアされるのを待つ; 4.最新のイメージを指すために、表示されるべきイメ
ージ・データの選択されたシーケンスを含むポインタを
ビデオ・ステージング・バッファ603へ移動させる; 5.「新しいビデオ・ステージング・バッファ」フラッ
グをセットする; 6.前のビデオ・ステージング・バッファ・イメージを
除去し、記憶をビデオ・バッファ・プール602に戻
す; 7.ステップ1に進む。 パノラマ表示プロセスでは、 1.ブロック204において、パノラマ・ステージング
変換を遂行する; 2.「合成変換」フラッグをセットする; 3.ブロック708及び710において、合成変換を遂
行する; 4.「合成変換」フラッグをクリアする; 5.「新しいビデオ・ステージング・バッファ」フラッ
グをクリアする; 6.ディスプレイ装置上の垂直ブランキング・インター
バルを待つ; 7.ブロック208において、表示更新変換を遂行す
る; 8.ビューの向きにおける変化「イン・ズーム」を待つ
か、或いは、「新しいビデオ・ステージング・バッフ
ァ」フラッグがセットされるのを待つ; 9.ステップ1に進む。
【0045】もう1つの実施例では、パノラマ・ステー
ジング変換(ブロック204)、合成変換(ブロック7
08及び710)、及び表示更新変換(ブロック20
8)の間の同期化が次のように機能する。即ち、ビデオ
表示プロセスにおいて、「新しいビデオ・ステージング
・バッファ」フラッグが最初にクリアである場合、 1.ブロック502及び504において、ビデオ・デー
タ・パケット601をビデオ・バッファ・プール602
において受信し、新しい完全なイメージを形成するに十
分なパケットが到着するまで、イメージ・データ・フレ
ームをアセンブルする; 2.「合成変換」フラッグがセットされるまでステップ
1を繰り返す; 3.最新のイメージを指示するようにビデオ・ステージ
ング・バッファ603のポインタを移動させる; 4.「新しいビデオ・ステージング・バッファ」フラッ
グをセットする; 5.「合成変換」フラッグがクリアされるのを待つ; 6.前のビデオ・ステージング・バッファ・イメージを
除去し、記憶をビデオ・バッファ・プール602に戻
す; 7.ステップ1に進む。パノラマ表示プロセスにおい
て、「合成変換」フラッグが最初にクリアである場合、 1.ブロック204において、パノラマ・ステージング
変換を遂行する; 2.「合成変換」フラッグをセットする; 3.待つ。「新しいビデオ・ステージング・バッファ」
フラッグがセットされる時には前に進み、ステップ9が
前に表示されたイメージの前のビューの向き又はズーム
からの変化であった場合には前に進み、或いはビューの
向き又はズームが変化する時には前に進む。 4.ブロック708及び710において、合成変換を遂
行する; 5.「新しいビデオ・ステージング・バッファ」フラッ
グをクリアする; 6.「合成変換」フラッグをクリアする; 7.ディスプレイ装置上の垂直ブランキング・インター
バルを待つ; 8.ブロック208において、表示更新変換を遂行す
る; 9.ビューの向き及びズームを更新する; 10.ステップ1に進む。
【0046】「フラッグ」をセット及びクリアする別の
方法、並びに所定事象の発生時におけるプロセス・ステ
ップの条件付き実行のための他の手法が本発明の技術的
範囲内にあることは明らかである。本発明の重要な特徴
は、パノラマ・ステージング変換ステップ(ブロック2
04)、合成変換ステップ(ブロック708及び71
0)、及び表示更新変換ステップ(ブロック208)の
間の同期化を含んでおり、従って、その同期化の実施方
法は本発明の重要な要素ではない。
【0047】更に、任意の逐次的動作順序が可能であ
り、例えば、表示更新変換ステップ(ブロック208)
が最後のステップとして遂行される場合、その逐次的動
作順序が複数のパノラマ及びビデオ・ストリームのため
の複数のパノラマ・ステージング・ステップ及び合成変
換ステップを実行することを含み得ることは注目され
る。
【0048】図9及び図10に示される本発明の代替え
の実施例では、ビデオ・ステージング変換(ブロック8
04)が、図7及び図8に示された独立のビデオ表示プ
ロセスに組み込まれる。図7及び図8におけるように、
代替えのビデオ表示プロセスは、ブロック502におい
て、ソース・システムからビデオ・データ・パケット6
01を受信する。しかし、ブロック804において、ビ
デオ・ステージング変換は受信されたビデオ・データ・
パケット601のイメージ・データをビデオ・ステージ
ング・バッファ603に直接に書き込む。独立のビデオ
表示プロセスにおけるように、ビデオ・データ・パケッ
ト601を受信し、その受信されたイメージ・データを
ビデオ・ステージング・バッファ603に記憶するステ
ップは、ソース・システムがビデオ・データ・パケット
601をターゲット・システムに連続的に流す時に反復
する。
【0049】代替えのビデオ表示プロセスの残りのステ
ップは、図8におけるパノラマ表示及びビデオ表の結合
プロセスの説明において上述したように遂行される。従
って、受信されたイメージ・データはビデオ・ステージ
ング・バッファ603から選択され、合成変換(ブロッ
ク708)によって変換され、合成イメージ903を形
成するようにパノラマ・データと結合され(ブロック7
10)、そして表示のためにステージングされる(ブロ
ック712乃至210)。
【0050】ビデオ・ステージング変換(ブロック80
4)が合成変換(ブロック708及び710)と非同期
化又は同期化可能であることは注目される。前述のよう
に、非同期化された実施方法は表示時間を速くし得る
が、合成変換が生じる時にビデオ・ステージング・バッ
ファが部分的更新されたイメージを保持するので、イメ
ージ切り離しを生じさせることが可能である。オペレー
ションにおいては、この非同期動作プロセスは次のよう
に遂行可能である。ビデオ表示プロセスにおいて、「新
しいビデオ・ステージング・バッファ」フラッグが最初
にクリアである場合、 1.新しい完全なイメージを形成するに十分なパケット
が到着するまで、ビデオ・データ・パケット(601)
をビデオ・ステージング・バッファ(603)に読み込
む(ブロック502及び804); 2.ステップ1に進む。パノラマ表示プロセスでは、
「合成変換」フラッグが最初にクリアである場合、 1.ブロック204において、パノラマ・ステージング
変換を遂行する; 2.ブロック708及び710において、合成変換を遂
行する; 3.ディスプレイ装置上の垂直ブランキング・インター
バルを待つ; 4.ブロック208において、表示更新変換を遂行す
る; 5.ビューの向き及びズームを更新する; 6.ステップ1に進む;
【0051】ビデオ・ステージング変換(ブロック80
4)が合成変換(ブロック708及び710)と同期化
される時、表示は遅延させられるが、イメージ切り離し
は回避される。同期化した動作モードでは、ビデオ・ス
テージング変換が合成変換と交替し、従って、パノラマ
表示プロセスが、次のように、ビデオ表示プロセスと同
期的にランする。ビデオ表示プロセスにおいて、「新し
いビデオ・ステージング・バッファ」フラッグが最初に
クリアする場合、 1.ブロック502及び804において、新しい完全な
イメージを形成するに十分なパケットが到着するまで、
ビデオ・データ・パケット601をビデオ・ステージン
グ・バッファ603に読み込む; 2.「合成変換」フラッグがセットされるまで、ステッ
プ1を繰り返す; 3.「新しいビデオ・ステージング・バッファ」フラッ
グをセットする; 4.「合成変換」フラッグがクリアされるのを待つ; 5.ステップ1に進む。 パノラマ表示プロセスでは、「合成変換」フラッグが最
初にクリアする場合、 1.ブロック204において、パノラマ・ステージング
変換を遂行する; 2.「合成変換」フラッグをセットする; 3。「新しいビデオ・ステージング・バッファ」フラッ
グがセットされるのを待つ; 4.ブロック708及び710において、合成変換を遂
行する; 5.「新しいビデオ・ステージング・バッファ」フラッ
グをクリアする; 6.「合成変換」フラッグをクリアする; 7.ディスプレイ装置における垂直ブランキング・イン
ターバルを待つ; 8.ブロック208において、表示更新変換を遂行す
る; 9.ビューの向き及びズームを更新する; 10.ステップ1に進む。
【0052】図8を再び参照して、次に、同期化方法の
第3ステップを説明する。その第3ステップでは、表示
更新変換(ブロック208)及びディスプレイ装置リフ
レッシュ期間が分析される。上記のように、表示更新変
換及びディスプレイ装置リフレッシュ期間は同期モード
又は非同期モードで動作可能である。しかし、一般的に
は、ディスプレイ装置リフレッシュ期間は、本発明に従
って実行されるコンピュータのオペレーティング・シス
テムによって与えられ、そのリフレッシュ期間が始まる
時間フレームはコンピュータにおいて実行されるアプリ
ケーションによって制御されるものではない。そのよう
に、本発明の方法は、表示更新変換がアプリケーション
の制御の下に他の変換(例えば、合成変換及びパノラマ
・ステージング変換)に関して生じる時を制御すること
ができるが、ディスプレイ装置のリフレッシュ期間を制
御することはできない。
【0053】従って、同期動作モードでは、前の説明で
概説したプロセス・ステップの各々は「ディスプレイ装
置における垂直ブランキング・インターバルを待つ」と
いうステップを含み、一方、非同期動作モードでは、こ
のステップは存在しないであろう。
【0054】同期化方法の3つのステップの各々に関す
る上記説明において、各ステージング・バッファは、イ
メージがそれに書き込まれる前にはクリアされないとい
うことは特に注目される。ステージング・バッファがそ
れへの何らかの変換の書込み前にクリアされるようにこ
れらのプロセスが変更される場合、読取り変換がクリア
された又は部分的にクリアされたバッファを読み取る
(それが脱落したイメージ又は不完全なイメージを表示
する)ことがないように、その変換は、そのバッファを
読み取る如何なる変換とも同期化されなければならな
い。
【0055】本発明の同期化方法に対するオプションを
説明したが、以下の説明は、例えば、スケーリングし、
クリップし、剪断し、伸張し、クロマ・キーし、及びビ
デオ・イメージをパノラマ・イメージに階層化する機能
を含むビデオ・データ変換ステップに焦点を合わせる。
【0056】イメージ・データをスケーリングするプロ
セス及びそれを剪断するプロセスはイメージ処理分野に
おいて知られており、例えば、米国ニューヨーク州リー
ディングにおける Addison-Wesley Publishing 社発行
の J.D. Foley、A.van Dam、S.K. Feiner、及び J.F.Hu
ghes 著の「コンピュータ・グラフィックス、原理と実
践(Computer Graphics, principles and practice)」
第2版(1990)の第5章「幾何学的変換(Geometri
cal Transformations)」において見ることが可能であ
る。図2における独立のパノラマ表示プロセスが「ズー
ム」機能の実行時にスケーリング・オペレーションを使
用し得ることも注目される。
【0057】前述のように、合成変換は、例えば、ビデ
オ・イメージ・データが変換されそしてパノラマ・ステ
ージング・バッファ603におけるパノラマ・データと
結合される時(図8のブロック708乃至712)、そ
のビデオ・イメージ・データをスケーリングし又は剪断
する機能を含む。本発明の一実施例によれば、合成変換
(ブロック708)は、パノラマ・ステージング変換
(ブロック204)において遂行される如何なるスケー
リング・オペレーションとの整合も維持するように、ビ
デオ・イメージ・データをスケーリングする。整合性の
あるスケーリング・オペレーションを維持することによ
って、ビデオ・データ・イメージは、パノラマ・ステー
ジング変換からのスケーリングされたイメージに比例す
る。その結果、ビデオ・データ・イメージ及びパノラマ
・イメージの両方とも等しくズームする。又、ビデオ・
イメージ・データにおける1つのポイントの位置は、そ
のポイントがパノラマ・イメージ上の対応するロケーシ
ョンに固定されて見えるように、ズーム・オペレーショ
ンの間、パノラマ・ステージング・バッファ203に維
持される。
【0058】同様に、本発明の実施例の合成変換におけ
る剪断オペレーションは、パノラマ・ステージング変換
における剪断オペレーションとの整合性を維持するよう
に遂行される。従って、剪断オペレーションは、ビデオ
・イメージ・データにおけるピクセルをパノラマ・ステ
ージング・バッファ203にマッピングすることによっ
て達成され、しかも、それらはパノラマ・イメージ上の
所定位置に固定されているように見える。
【0059】本発明によれば、ビデオ・イメージ・デー
タは、イメージが合成イメージを形成するために結合さ
れる時(ブロック708及び710)、パノラマ・イメ
ージ・データと共に階層化可能である。合成変換の階層
化オペレーションは、全体的に又は部分的にパノラマ・
イメージ・データ上にビデオ・イメージ・データを、又
はその逆に、組み込み可能であることが注目される。本
発明によれば、階層化手法は、例えば、描画順序、zバ
ッファ隠蔽、及びクロマ・キー手法を含み得る。
【0060】描画順序階層化手法では、第2のイメージ
が第1のオリジナル・イメージ上にペイントされ、従っ
て、その結果生じる合成イメージでは、第2のイメージ
が第1のイメージを遮断し、第2のイメージが観察者に
近接しているように見える。zバッファ隠蔽階層化手法
も、第2イメージが観察者に近接していることを明らか
にするために第2のイメージを第1のオリジナル・イメ
ージ上にペイントするが、zバッファ隠蔽階層化手法で
は、ピクセルは、各ピクセルに対応する深さ情報に基づ
いて個々に描画されるか又は描画されない。ピクセルが
観察者に近接していることを表す対応する深さ情報を持
ったピクセルだけが描画される。従って、zバッファ隠
蔽階層化手法は、オブジェクト(第2イメージ)が他の
オブジェクト(第1イメージ)の前に部分的に突出する
ことを可能にする。
【0061】描画順序及びzバッファ隠蔽階層化手法の
両方ともイメージ処理の分野では知られていることは注
目されるし、各手法の詳細な説明は、例えば、米国ニュ
ーヨーク州リーディングにおける Addison-Wesley Publ
ishing 社発行の J.D. Foley、A.van Dam、S.K. Feine
r、及び J.F.Hughes 著の「コンピュータ・グラフィッ
クス、原理と実践(Computer Graphics, principles an
d practice)」第2版(1990)のペインタのアルゴ
リズム及びzバッファに属する目次を見ればわかるであ
ろう。
【0062】同様に、クロマ・キー階層化手法も第1の
オリジナル・イメージ上に第2のイメージをペイント
し、第2のイメージが観察者により近接するか又は観察
者からより離れていると見えるようにする。しかし、ク
ロマ・キー階層化手法では、ピクセルは、そのピクセル
のカラーを表す値に基づいて個々に描画されるか、或い
は描画されない。クロマ・キー階層化手法に関しては、
詳細に後述することにする。
【0063】本発明の一実施例では、上記の各階層化手
法は、ビデオ・データ・イメージが変換され、パノラマ
・データ・イメージと結合される時に遂行されたり、或
いは遂行されなかったりする。これらの独立した階層化
手法はパノラマ・イメージ上にオーバレイされたスプラ
イト(二次元イメージ)として適用されているけれど
も、その階層化手法は、過去においては、表示に適した
合成イメージを形成するためにパノラマ・イメージ・デ
ータと結合されたビデオ・イメージ・データとして適用
されてはいない。変換オペレーションは、使用するから
には任意の順序で階層化手法を使用することが可能であ
ること、並びに、ビデオ・イメージ・データ及びパノラ
マ・イメージ・データが結合される時、1つ又は複数の
パノラマ・ステージング変換及び1つ又は複数の合成変
換が遂行可能であることは注目される。
【0064】次の説明では、クロマ・キー階層化手法が
更に分析される。しかし、本発明では、クロマ・キー階
層化が、特定の宛先に書き込まれるべきイメージ、即
ち、ソースによって送られたイメージ又は宛先における
イメージ、即ち、ターゲットの書込バッファにおけるイ
メージに適用可能であることが先ず注目される。
【0065】クロマ・キー手法は、イメージ内容に基づ
いてイメージ全体をコピーする代わりにイメージの一部
分を書くために、例えば、テレビジョン(TV)及び映
画産業において使用される一般的な階層化手法である。
1つの例として、クロマ・キー手法は、青色又は緑色の
スクリーンの前に立っているテレビの気象担当者が大き
な気象マップの前に立っているように見えることを可能
にする。その方法は、クロマ・キー閾値に従ってピクセ
ルを書くべきか又は書かざるべきかを判断する場合のプ
ロセスに基づいている。クロマ・キー閾値は、書かれる
べきイメージ又は書かれつつあるイメージにおけるピク
セルのカラー、明度、及び色価を結合したものである。
クロマ・キー階層化手法の更に詳細な説明は、例えば、
米国サンディエゴの HighText Publications 社発行の
Keith Jack 著「わかりやすいビデオ、ディジタル技術
者のためのハンドブック(Video Demystified, a Handb
ook for the Digital Engineer)」第2版(1996)
の404−412及びA−54ページにおいて見ること
ができる。
【0066】例示的なクロマ・キーでは、クロマ・キー
・カラー値は緑又は青を持たない赤である。赤・緑・青
(RGB)ピクセル値は、それが緑又は青のない特定の
赤値を有する場合には書かれない。この方法では、クロ
マ・キー値は透明である場合と同じである。これは、後
述のテレビ会議の例において行われる。もう1つの例示
的クロマ・キーでは、クロマ・キー・カラー値は緑又は
青を持たない赤である。書かれるバックグランドが緑又
は青を持たない特定の赤値を有する場合、RGBピクセ
ル値が書かれる。この方法では、クロマ・キー値は、イ
メージを投影すべきスクリーンと同じである。これは、
後述のフライト・シュミレーションの例において行われ
る。
【0067】第2の例では、テレビ会議が分析される。
この例では、合成イメージは会議室のパノラマ・シーン
上に表示された人の頭を含む。パノラマ・ステージング
変換(図8のブロック204)はパノラマ・イメージの
選択された円筒形部分201を歪曲補正された投影に変
換し、その歪曲補正された投影をパノラマ表示ステージ
ング・バッファ203(ブロック206)に記憶する。
次に、人のビデオ・イメージが独特の一様なバックグラ
ウンドに抗してソース・システムによって記録され、タ
ーゲット・システムに転送される。一様なバックグラウ
ンド・カラーはクロマ・キーであると宣言される。その
クロマ・キーは、その人(独特の一様なバックグラウン
ドではない)を表すピクセルの変換を可能にする。従っ
て、独特の一様なバックグラウンドは合成イメージには
現れない。従って、クロマ・キーされた合成変換(ブロ
ック708及び710)は、クロマ・キーの範囲外にあ
るビデオ・ステージング・バッファ603からのビデオ
・イメージ・データ、即ち、合成イメージを形成するた
めに、人を表すが独特の一様なバックグラウンドを表さ
ないピクセルをパノラマ表示ステージング・バッファ2
03(今では、パノラマ・イメージ・データを持つだけ
である)にコピーする。合成イメージはパノラマ・ステ
ージング・バッファ203に記憶される(ブロック71
2)。一旦更新表示変換が遂行されてしまうと(ブロッ
ク712)、合成イメージは表示の準備ができる(ブロ
ック210)。従って、パノラマ表示及びビデオ表示の
結合プロセスの関連あるサブセットが次のように遂行さ
れる。 1.パノラマ・ステージング・バッファにおける次のピ
クセルに進む; 2.ブロック204において、そのピクセルに対するパ
ノラマ・ステージング変換を遂行する; 3.ブロック506において、パノラマ・ステージング
・バッファ203にコピーされるべきビデオ・ステージ
ング・バッファ603における対応するピクセルを選択
する; 4.ビデオ・ピクセルの赤、緑、又は青の成分すべてが
クロマ・キーされるべき赤色、緑色、及び青色の指定さ
れた範囲内にある場合、ステップ1に進む; 5.ビデオ・ステージング・バッファ603のピクセル
を変換し、そのピクセルをパノラマ・ステージング・バ
ッファ203におけるパノラマ・イメージと結合する; 6.ステップ1に進む。
【0068】もう1つの例では、フライト・シミュレー
ションが分析される。フライト・シミュレーションで
は、合成イメージは、コックピット内部のパノラマ・イ
メージにおけるウインドウの外に表示されたビデオ・イ
メージを含む。この例では、上記のように、パノラマ・
ステージング変換(ブロック204)がコックピットの
パノラマ・イメージ201の選択された円筒形部分をパ
ノラマ表示ステージング・バッファ203における歪曲
補正された投影に変換し、その歪曲補正された投影をパ
ノラマ表示ステージング・バッファ203に記憶する
(ブロック206)。パノラマ・イメージは、コックピ
ットのウインドウ・エリアにおいて独特の一様なバック
グラウンド・カラーを有する。離陸及び着陸のビデオが
ソース・システムによって記録され、ターゲット・シス
テムのビデオ・ステージング・バッファ603に記憶さ
れる。クロマ・キーされた合成変換(ブロック708及
び710)は、クロマ・キー閾値範囲にあるコックピッ
ト・シーンの部分に相当するビデオ・ステージング・バ
ッファ内のビデオ・イメージを変換する。パノラマ表示
ステージング・バッファ203(今や、それはコックピ
ットのパノラマ・バックグラウンドを有する)がその変
換されたビデオ・イメージと結合されて合成イメージを
形成する。この例では、ビデオ・イメージは階層化さ
れ、左右及び上下を切り取られてコックピットの向こう
にあるように見える。パノラマ表示及びビデオ表示の結
合プロセスの関連サブセットは、フライト・シミュレー
ションの例に対するクロマ・キーされた変換を使用して
次のように遂行される。 1.パノラマ・ステージング・バッファ203における
次のピクセルに進む; 2.ブロック204においてそのピクセルに対するパノ
ラマ・ステージング変換を遂行する; 3.パノラマ・ピクセルの赤、緑、又は青の成分がクロ
マ・キーされるべき赤色、緑色、及び青色の指定された
範囲の外にある場合、ステップ1に進む; 4.パノラマ・ステージング・バッファ203にコピー
されるべきビデオ・ステージング・バッファ603にお
ける対応するピクセルを選択する; 5.ビデオ・ステージング・バッファ603のピクセル
を変換し、それをパノラマ・ステージング・バッファ2
03の内容と結合する; 6.ステップ1に進む。
【0069】別の方法として、ビデオ・イメージ全体が
先ずコピーされ、しかる後、クロマ・キーされたパノラ
マ・イメージがそのクロマ・キーを除くパノラマ・ピク
セル値に対してコピーされてもよい。この方法では、コ
ックピット内部を表すピクセルがビデオ離陸及び着陸を
表すピクセルを上書きするであろう。換言すれば、コッ
クピットのウインドウを表すピクセルは書かれず、従っ
て、ビデオ・イメージのその部分を可視のまま残す。
【0070】1つの実施例では、クロマ・キー値がそれ
ぞれ或る範囲の値として表されることは注目される。ク
ロマ・キー値の範囲の使用は、ビデオ・データ・パケッ
トがソース・システムからターゲット・システムに圧縮
伝送フォーマットで伝送される時には特に重要である。
一般に、圧縮伝送では、圧縮されたデータのエンコード
及びデコードは、その結果として値の変動を生じること
が多い。フライト・シミュレーションの例では、クロマ
・キー範囲を使用することは、正確な赤・緑・青のピク
セル・カラー値を保存できなかった圧縮解除オペレーシ
ョンによる不正確な値の可能性をプロセスが予測するこ
とを可能にする。
【0071】静止イメージが伝送される時、又は、圧縮
の前後における値の間で固有の変動を生じる圧縮方式、
例えば、JPEG圧縮が使用される場合、クロマ・キー
値の範囲を使用することも重要である。
【0072】もう1つの実施例では、別のクロマ・キー
・パノラマ・イメージが保持可能である。これはオリジ
ナル・パノラマ・イメージにおける1つのビットでもよ
く、或いは、それは、正確なクロマ・キー値を持った別
のイメージであってもよい。マスクとも呼ばれる別のク
ロマ・キー・イメージはカラー・イメージの書込を許容
又は禁止することができる。マスクは、例えば、それの
ピクセルの各々において1つ又は2つのカラー値を持つ
ものでもよい。第1のクロマ・キー値は、マスクが透明
であること及びビデオ・イメージが透けて見えることを
意味する。第2のクロマ・キー値は、マスクが不透明で
あり、従って、ビデオ・イメージの視野をブロックする
ことを意味する或る他のカラーである。
【0073】フライト・シミュレーションの例では、ビ
デオ・ピクセルは、静的であるパノラマにおけるピクセ
ルの状態に従って描画されるか、或いは描画されない。
テレビ会議の例では、ビデオ・ピクセルは、動いている
ビデオにおけるピクセルの値に従って描画されるか、或
いは描画されないので、マスクも動いているビデオ・イ
メージでなければならないであろう。
【0074】マスクが維持される場合、それはパノラマ
と同じ大きさを持つことができる。フライト・シミュレ
ーションがそのようなマスクを利用した場合、それは次
のように遂行されるであろう。 1.パノラマ・ステージング・バッファ203における
次のピクセルに進む; 2.ブロック204においてそのピクセルに対するパノ
ラマ・ステージング変換を遂行する。このステップは、
パノラマ・イメージにおける適当なピクセル、即ち、ピ
クセル(i,j)を見つけること及びそれをパノラマ・
ステージング・バッファ203にコピーすることを必要
とする; 3.マスクにおける対応するピクセルを見つける。この
実施例では、マスクはパノラマ・イメージと同じ大きさ
を有し、従って、マスク・ピクセル(i,j)が見つか
る; 4.マスク・ピクセル(i,j)がクロマ・キー値を持
たない場合、 a.マスクは不透明であり、ビデオは描画されない。ス
テップ1に進む。 b.或いは、マスクは透明なコックピット・ウインドウ
の場合のように透明であり、従って、下記のステップに
おいて定義されるようにパノラマ上にビデオを描画す
る。 5.パノラマ・ステージング・バッファ203にコピー
されるべきビデオ・ステージング・バッファ603にお
ける対応するピクセルを計算する。 6.ビデオ・ステージング・バッファ603のピクセル
をパノラマ・ステージング・バッファ203にコピーす
る。 7.ステップ1に進む。
【0075】マスクが維持される場合、それはパノラマ
と同じ大きさを持つ必要はなく、比例的にインデックス
可能である。
【0076】上記のように、パノラマ表示及びビデオ表
示の結合プロセスは、シーンが静的コンポーネント及び
動的コンポーネントに分解される表示プロセスである。
パノラマ・イメージ201は静的コンポーネントであ
り、一方、ストリーミング・ビデオ601は動的コンポ
ーネントである。そのようなシーンへのアクセスがサー
バからクライアントへのネットワークを介して行われる
時、サーバは先ずクライアントにパノラマ・イメージ2
01をコミュニケートすることが望ましい。つぎに、ク
ライアントは、パノラマ・イメージ201のローカル・
コピーをブラウズすることが可能である。次に、ストリ
ーミング・ビデオ601がサーバからクライアントにコ
ミュニケートされ、パノラマ・イメージと統合されて結
合表示を形成する。シーン・データのその後の伝送が、
静的パノラマ・イメージ・データ及び動的ストリーミン
グ・ビデオ・データのインターリービング・ミックスと
して継続する。
【0077】本発明を、それの望ましい実施例に関連し
て詳しく示し、説明したけれども、本発明の技術的範囲
及び精神から逸脱することなく、形式及び詳細事項の変
更を行い得ることは当業者には明らかであろう。
【0078】まとめとして、本発明の構成に関して以下
の事項を開示する。
【0079】(1)興味深いシーンのイメージを該シー
ンの記憶された環境マップから及び該シーンのビデオ・
データから表示するための方法にして、前記シーンのビ
デオ・データを受信し、記憶するステップと、前記シー
ンの向きを選択するステップと、前記シーンの選択され
た向きに従ってビデオ・データを検索するステップと、
前記シーンの選択された向きに対する第1イメージを発
生するために前記選択された向きに従って前記環境マッ
プをレンダするステップと、前記シーンの選択された向
きに対する合成イメージを形成するために検索された前
記ビデオ・データ及び前記第1イメージを同期的に結合
するステップと、前記合成イメージを表示するステップ
と、を含む方法。 (2)前記ビデオ・データを検索するステップはイメー
ジ・データ及びサウンド・データを含むビデオ・データ
・パケットを連続的に受信するステップを含むことを特
徴とする上記(1)に記載の方法。 (3)受信された前記ビデオ・データはビデオ・メモリ
・バッファに記憶されること及び、前記同期的に結合す
るステップは、前記ビデオ・メモリ・バッファから受信
された前記ビデオ・データを検索するステップと、前記
合成イメージを形成するために前記第1イメージ内に検
索された前記ビデオ・データを組み込むステップと、を
更に含むことを特徴とする上記(1)に記載の方法。 (4)前記ビデオ・データをスケーリング、剪断、及び
伸張することの少なくとも1つによって前記ビデオ・デ
ータを所望の位置及びサイズに変換するステップを更に
含むことを特徴とする上記(3)に記載の方法。 (5)前記ビデオ・データを検索するステップはメモリ
・ロケーションに対するポインタの値を求め、前記メモ
リ・ロケーションの内容を検索するステップを含むこと
を特徴とする上記(3)に記載の方法。 (6)前記組み込むステップは前記合成イメージを形成
するために検索された前記ビデオ・データ及び前記第1
イメージを階層化するステップを含むことを特徴とする
上記(3)に記載の方法。 (7)前記階層化するステップは検索された前記ビデオ
・データの1つを前記第1イメージ上に及び前記第1イ
メージを前記ビデオ・データ上に描画順序階層化するス
テップ、zバッファ隠蔽階層化するステップ、及びクロ
マ・キー階層化するステップの1つであることを特徴と
する上記(6)に記載の方法。 (8)興味深いシーンのイメージを該シーンの記憶され
た環境マップから及び該シーンのビデオ・データから表
示するためのイメージ処理システムにして、前記シーン
のビデオ・データを受信し、記憶するための手段と、前
記シーンの向きを選択するための手段と、前記シーンの
選択された向きに従ってビデオ・データを検索するため
の手段と、前記シーンの選択された向きに対する第1イ
メージを発生するために前記選択された向きに従って前
記環境マップをレンダするための手段と、前記シーンの
選択された向きに対する合成イメージを形成するために
検索された前記ビデオ・データ及び前記第1イメージを
同期的に結合するための手段と、前記合成イメージを表
示するための手段と、を含むイメージ処理システム。 (9)前記ビデオ・データを検索するための手段はイメ
ージ・データ及びサウンド・データを含むビデオ・デー
タ・パケットを連続的に受信するための手段を含むこと
を特徴とする上記(8)に記載のイメージ処理システ
ム。 (10)前記ビデオ・データを受信するための手段はビ
デオ・メモリ・バッファを含むことを特徴とする上記
(8)に記載のイメージ処理システム。 (11)検索された前記ビデオ・データ及び前記第1イ
メージを同期的に結合するための手段は、前記ビデオ・
メモリ・バッファから受信された前記ビデオ・データを
検索するための手段と、前記合成イメージを形成するた
めに前記第1イメージ内に前記検索されたビデオ・デー
タを組み込むための手段と、を更に含むことを特徴とす
る上記(8)に記載のイメージ処理システム。 (12)前記第1イメージ内に検索された前記ビデオ・
データを組み込む前に前記ビデオ・データをスケーリン
グ、剪断、及び伸張することの少なくとも1つによって
前記ビデオ・メモリ・バッファから検索された前記ビデ
オ・データを所望の位置及びサイズに変換するための手
段を更に含むことを特徴とする上記(11)に記載のイ
メージ処理システム。 (13)前記ビデオ・データを検索するための手段はメ
モリ・ロケーションに対するポインタの値を求め、前記
メモリ・ロケーションの内容を検索するための手段を含
むことを特徴とする上記(11)に記載のイメージ処理
システム。 (14)前記組み込むための手段は前記合成イメージを
形成するために検索された前記ビデオ・データ及び前記
第1イメージを階層化するための手段を含むことを特徴
とする上記(11)に記載のイメージ処理システム。 (15)前記階層化するための手段は検索された前記ビ
デオ・データの1つを前記第1イメージ上に及び前記第
1イメージを前記ビデオ・データ上にクロマ・キー階層
化するための手段を含むことを特徴とする上記(14)
に記載のイメージ処理システム。 (16)興味深いシーンのイメージを該シーンの記憶さ
れた環境マップから及び該シーンのイメージ・データか
ら表示するための方法にして、前記シーンのイメージ・
データ及びサウンド・データを含むビデオ・データ・パ
ケットを受信し、記憶するステップと、前記シーンの向
きを選択するステップと、前記シーンの選択された向き
に従ってイメージ・データを検索するステップと、前記
シーンの選択された向きに対する第1イメージを発生す
るために前記選択された向きに従って前記環境マップを
レンダするステップと、前記シーンの選択された向きに
対する合成イメージを形成するために検索された前記イ
メージ・データ及び前記第1イメージを同期的に結合す
るステップと、前記シーンのサウンド・データを連続的
に再生するステップと、前記合成イメージを表示するス
テップと、を含む方法。 (17)前記サウンド・データを連続的に再生するステ
ップは再生されるサウンド・データのボリュームを制御
するステップを含むことを特徴とする上記(16)に記
載の方法。
【図面の簡単な説明】
【図1】本発明の望ましい実施例によって使用可能なコ
ンピュータ処理システムの機能的ブロック図である。
【図2】独立したパノラマ表示プロセスの機能的ブロッ
クのフローチャートである。
【図3】図2に従ってパノラマ表示プロセスを遂行する
方法を示す。
【図4】矩形セクションに分割され、イメージ処理のた
めに独立したパノラマ表示プログラムによって利用され
る円筒形の環境マップを示す。
【図5】イメージ処理のために独立したパノラマ表示プ
ログラムによって利用される図4の環境マップから円筒
形の矩形エリアの角錐状の体積を計算する方法を示す。
【図6】独立したビデオ表示プロセスの機能的ブロック
のフローチャートである。
【図7】図5に従ってビデオ表示プロセスを遂行する方
法を示す。
【図8】本発明によるパノラマ表示及びビデオ表示の結
合プロセスの機能的ブロックのフローチャートである。
【図9】本発明による別のパノラマ表示及びビデオ表示
の結合プロセスの機能的ブロックのフローチャートであ
る。
【図10】図9による別のパノラマ表示及びビデオ表示
の結合プロセスを遂行する方法を示す。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ケーラノール・ジー・クメール アメリカ合衆国10566、ニューヨーク州 ピークスキル、ノッティンガム・サーク ル 9 (72)発明者 ジェイムズ・サージェント・リプスコウ ム アメリカ合衆国10598、ニューヨーク州 ヨークタウン・ハイツ、ペイン・ストリ ート 1646 (72)発明者 ジャイ・プラカシュ・メノン アメリカ合衆国10566、ニューヨーク州 ピークスキル、キャンパス・ロード 55 (72)発明者 マーク・ハーバート・ウィルビーク−ル メール アメリカ合衆国10598、ニューヨーク州 ヨークタウン・ハイツ、バプティスト・ チャーチ・ロード 1480 (56)参考文献 特開 平7−93579(JP,A) 特開 平2−216184(JP,A) 特開 平10−97640(JP,A) 特開 昭62−60064(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 3/00 300

Claims (17)

    (57)【特許請求の範囲】
  1. 【請求項1】興味深いシーンのイメージを該シーンの記
    憶された環境マップから及び該シーンのビデオ・データ
    から表示するための方法にして、 前記シーンのビデオ・データを受信し、記憶するステッ
    プと、 前記シーンの視点基準を選択するステップと、 前記シーンの選択された視点基準に従ってビデオ・デー
    タを検索するステップと、 前記シーンの選択された視点基準に対する第1イメージ
    を発生するために前記選択された視点基準に従って前記
    環境マップをレンダするステップと、 前記シーンの選択された視点基準に対する合成イメージ
    を形成するために検索された前記ビデオ・データ及び前
    記第1イメージを同期的に結合するステップと、 前記合成イメージを表示するステップと、 を含む方法。
  2. 【請求項2】前記ビデオ・データを検索するステップは
    イメージ・データ及びサウンド・データを含むビデオ・
    データ・パケットを連続的に受信するステップを含むこ
    とを特徴とする請求項1に記載の方法。
  3. 【請求項3】受信された前記ビデオ・データはビデオ・
    メモリ・バッファに記憶されること及び、 前記同期的に結合するステップは、 前記ビデオ・メモリ・バッファから受信された前記ビデ
    オ・データを検索するステップと、 前記合成イメージを形成するために前記第1イメージ内
    に検索された前記ビデオ・データを組み込むステップ
    と、 を更に含むことを特徴とする請求項1に記載の方法。
  4. 【請求項4】前記ビデオ・データをスケーリング、剪
    断、及び伸張することの少なくとも1つによって前記ビ
    デオ・データを所望の位置及びサイズに変換するステッ
    プを更に含むことを特徴とする請求項3に記載の方法。
  5. 【請求項5】前記ビデオ・データを検索するステップは
    メモリ・ロケーションに対するポインタの値を求め、前
    記メモリ・ロケーションの内容を検索するステップを含
    むことを特徴とする請求項3に記載の方法。
  6. 【請求項6】前記組み込むステップは前記合成イメージ
    を形成するために検索された前記ビデオ・データ及び前
    記第1イメージを階層化するステップを含むことを特徴
    とする請求項3に記載の方法。
  7. 【請求項7】前記階層化するステップは検索された前記
    ビデオ・データの1つを前記第1イメージ上に及び前記
    第1イメージを前記ビデオ・データ上に描画順序階層化
    するステップ、zバッファ隠蔽階層化するステップ、及
    びクロマ・キー階層化するステップの1つであることを
    特徴とする請求項6に記載の方法。
  8. 【請求項8】興味深いシーンのイメージを該シーンの記
    憶された環境マップから及び該シーンのビデオ・データ
    から表示するためのイメージ処理システムにして、 前記シーンのビデオ・データを受信し、記憶するための
    手段と、 前記シーンの視点基準を選択するための手段と、 前記シーンの選択された視点基準に従ってビデオ・デー
    タを検索するための手段と、 前記シーンの選択された視点基準に対する第1イメージ
    を発生するために前記選択された視点基準に従って前記
    環境マップをレンダするための手段と、 前記シーンの選択された視点基準に対する合成イメージ
    を形成するために検索された前記ビデオ・データ及び前
    記第1イメージを同期的に結合するための手段と、 前記合成イメージを表示するための手段と、 を含むイメージ処理システム。
  9. 【請求項9】前記ビデオ・データを検索するための手段
    はイメージ・データ及びサウンド・データを含むビデオ
    ・データ・パケットを連続的に受信するための手段を含
    むことを特徴とする請求項8に記載のイメージ処理シス
    テム。
  10. 【請求項10】前記ビデオ・データを受信するための手
    段はビデオ・メモリ・バッファを含むことを特徴とする
    請求項8に記載のイメージ処理システム。
  11. 【請求項11】検索された前記ビデオ・データ及び前記
    第1イメージを同期的に結合するための手段は、 前記ビデオ・メモリ・バッファから受信された前記ビデ
    オ・データを検索するための手段と、 前記合成イメージを形成するために前記第1イメージ内
    に前記検索されたビデオ・データを組み込むための手段
    と、 を更に含むことを特徴とする請求項8に記載のイメージ
    処理システム。
  12. 【請求項12】前記第1イメージ内に検索された前記ビ
    デオ・データを組み込む前に前記ビデオ・データをスケ
    ーリング、剪断、及び伸張することの少なくとも1つに
    よって前記ビデオ・メモリ・バッファから検索された前
    記ビデオ・データを所望の位置及びサイズに変換するた
    めの手段を更に含むことを特徴とする請求項11に記載
    のイメージ処理システム。
  13. 【請求項13】前記ビデオ・データを検索するための手
    段はメモリ・ロケーションに対するポインタの値を求
    め、前記メモリ・ロケーションの内容を検索するための
    手段を含むことを特徴とする請求項11に記載のイメー
    ジ処理システム。
  14. 【請求項14】前記組み込むための手段は前記合成イメ
    ージを形成するために検索された前記ビデオ・データ及
    び前記第1イメージを階層化するための手段を含むこと
    を特徴とする請求項11に記載のイメージ処理システ
    ム。
  15. 【請求項15】前記階層化するための手段は検索された
    前記ビデオ・データの1つを前記第1イメージ上に及び
    前記第1イメージを前記ビデオ・データ上にクロマ・キ
    ー階層化するための手段を含むことを特徴とする請求項
    14に記載のイメージ処理システム。
  16. 【請求項16】興味深いシーンのイメージを該シーンの
    記憶された環境マップから及び該シーンのイメージ・デ
    ータから表示するための方法にして、 前記シーンのイメージ・データ及びサウンド・データを
    含むビデオ・データ・パケットを受信し、記憶するステ
    ップと、 前記シーンの視点基準を選択するステップと、 前記シーンの選択された視点基準に従ってイメージ・デ
    ータを検索するステップと、 前記シーンの選択された視点基準に対する第1イメージ
    を発生するために前記選択された視点基準に従って前記
    環境マップをレンダするステップと、 前記シーンの選択された視点基準に対する合成イメージ
    を形成するために検索された前記イメージ・データ及び
    前記第1イメージを同期的に結合するステップと、 前記シーンのサウンド・データを連続的に再生するステ
    ップと、 前記合成イメージを表示するステップと、 を含む方法。
  17. 【請求項17】前記サウンド・データを連続的に再生す
    るステップは再生されるサウンド・データのボリューム
    を制御するステップを含むことを特徴とする請求項16
    に記載の方法。
JP00007499A 1998-01-15 1999-01-04 興味深いシーンのイメージを表示するための方法及び装置 Expired - Lifetime JP3177221B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/007,729 US6356297B1 (en) 1998-01-15 1998-01-15 Method and apparatus for displaying panoramas with streaming video
US09/007729 1998-01-15

Publications (2)

Publication Number Publication Date
JPH11296667A JPH11296667A (ja) 1999-10-29
JP3177221B2 true JP3177221B2 (ja) 2001-06-18

Family

ID=21727825

Family Applications (1)

Application Number Title Priority Date Filing Date
JP00007499A Expired - Lifetime JP3177221B2 (ja) 1998-01-15 1999-01-04 興味深いシーンのイメージを表示するための方法及び装置

Country Status (5)

Country Link
US (1) US6356297B1 (ja)
EP (1) EP0930584B1 (ja)
JP (1) JP3177221B2 (ja)
KR (1) KR100335306B1 (ja)
DE (1) DE69831924T2 (ja)

Cited By (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10055880B2 (en) 2016-12-06 2018-08-21 Activision Publishing, Inc. Methods and systems to modify a two dimensional facial image to increase dimensional depth and generate a facial image that appears three dimensional
US10099140B2 (en) 2015-10-08 2018-10-16 Activision Publishing, Inc. System and method for generating personalized messaging campaigns for video game players
US10118099B2 (en) 2014-12-16 2018-11-06 Activision Publishing, Inc. System and method for transparently styling non-player characters in a multiplayer video game
US10137376B2 (en) 2012-12-31 2018-11-27 Activision Publishing, Inc. System and method for creating and streaming augmented game sessions
US10179289B2 (en) 2016-06-21 2019-01-15 Activision Publishing, Inc. System and method for reading graphically-encoded identifiers from physical trading cards through image-based template matching
US10213682B2 (en) 2015-06-15 2019-02-26 Activision Publishing, Inc. System and method for uniquely identifying physical trading cards and incorporating trading card game items in a video game
US10226703B2 (en) 2016-04-01 2019-03-12 Activision Publishing, Inc. System and method of generating and providing interactive annotation items based on triggering events in a video game
US10226701B2 (en) 2016-04-29 2019-03-12 Activision Publishing, Inc. System and method for identifying spawn locations in a video game
US10232272B2 (en) 2015-10-21 2019-03-19 Activision Publishing, Inc. System and method for replaying video game streams
US10245509B2 (en) 2015-10-21 2019-04-02 Activision Publishing, Inc. System and method of inferring user interest in different aspects of video game streams
US10284454B2 (en) 2007-11-30 2019-05-07 Activision Publishing, Inc. Automatic increasing of capacity of a virtual space in a virtual world
US10286326B2 (en) 2014-07-03 2019-05-14 Activision Publishing, Inc. Soft reservation system and method for multiplayer video games
US10286314B2 (en) 2015-05-14 2019-05-14 Activision Publishing, Inc. System and method for providing continuous gameplay in a multiplayer video game through an unbounded gameplay session
US10315113B2 (en) 2015-05-14 2019-06-11 Activision Publishing, Inc. System and method for simulating gameplay of nonplayer characters distributed across networked end user devices
US10376781B2 (en) 2015-10-21 2019-08-13 Activision Publishing, Inc. System and method of generating and distributing video game streams
US10376793B2 (en) 2010-02-18 2019-08-13 Activision Publishing, Inc. Videogame system and method that enables characters to earn virtual fans by completing secondary objectives
US10421019B2 (en) 2010-05-12 2019-09-24 Activision Publishing, Inc. System and method for enabling players to participate in asynchronous, competitive challenges
US10463964B2 (en) 2016-11-17 2019-11-05 Activision Publishing, Inc. Systems and methods for the real-time generation of in-game, locally accessible heatmaps
US10463971B2 (en) 2017-12-06 2019-11-05 Activision Publishing, Inc. System and method for validating video gaming data
US10471348B2 (en) 2015-07-24 2019-11-12 Activision Publishing, Inc. System and method for creating and sharing customized video game weapon configurations in multiplayer video games via one or more social networks
US10486068B2 (en) 2015-05-14 2019-11-26 Activision Publishing, Inc. System and method for providing dynamically variable maps in a video game
US10500498B2 (en) 2016-11-29 2019-12-10 Activision Publishing, Inc. System and method for optimizing virtual games
US10537809B2 (en) 2017-12-06 2020-01-21 Activision Publishing, Inc. System and method for validating video gaming data
US10561945B2 (en) 2017-09-27 2020-02-18 Activision Publishing, Inc. Methods and systems for incentivizing team cooperation in multiplayer gaming environments
US10573065B2 (en) 2016-07-29 2020-02-25 Activision Publishing, Inc. Systems and methods for automating the personalization of blendshape rigs based on performance capture data
US10596471B2 (en) 2017-12-22 2020-03-24 Activision Publishing, Inc. Systems and methods for enabling audience participation in multi-player video game play sessions
US10627983B2 (en) 2007-12-24 2020-04-21 Activision Publishing, Inc. Generating data for managing encounters in a virtual world environment
US10694352B2 (en) 2015-10-28 2020-06-23 Activision Publishing, Inc. System and method of using physical objects to control software access
US10709981B2 (en) 2016-11-17 2020-07-14 Activision Publishing, Inc. Systems and methods for the real-time generation of in-game, locally accessible barrier-aware heatmaps
US10765948B2 (en) 2017-12-22 2020-09-08 Activision Publishing, Inc. Video game content aggregation, normalization, and publication systems and methods
US10818060B2 (en) 2017-09-05 2020-10-27 Activision Publishing, Inc. Systems and methods for guiding motion capture actors using a motion reference system
US10861079B2 (en) 2017-02-23 2020-12-08 Activision Publishing, Inc. Flexible online pre-ordering system for media
US10974150B2 (en) 2017-09-27 2021-04-13 Activision Publishing, Inc. Methods and systems for improved content customization in multiplayer gaming environments
US10981069B2 (en) 2008-03-07 2021-04-20 Activision Publishing, Inc. Methods and systems for determining the authenticity of copied objects in a virtual environment
US10981051B2 (en) 2017-12-19 2021-04-20 Activision Publishing, Inc. Synchronized, fully programmable game controllers
US11040286B2 (en) 2017-09-27 2021-06-22 Activision Publishing, Inc. Methods and systems for improved content generation in multiplayer gaming environments
US11097193B2 (en) 2019-09-11 2021-08-24 Activision Publishing, Inc. Methods and systems for increasing player engagement in multiplayer gaming environments
US11115712B2 (en) 2018-12-15 2021-09-07 Activision Publishing, Inc. Systems and methods for indexing, searching for, and retrieving digital media
US11185784B2 (en) 2015-10-08 2021-11-30 Activision Publishing, Inc. System and method for generating personalized messaging campaigns for video game players
US11192028B2 (en) 2018-11-19 2021-12-07 Activision Publishing, Inc. Systems and methods for the real-time customization of video game content based on player data
US11263670B2 (en) 2018-11-19 2022-03-01 Activision Publishing, Inc. Systems and methods for dynamically modifying video game content based on non-video gaming content being concurrently experienced by a user
US11278813B2 (en) 2017-12-22 2022-03-22 Activision Publishing, Inc. Systems and methods for enabling audience participation in bonus game play sessions
US11305191B2 (en) 2018-12-20 2022-04-19 Activision Publishing, Inc. Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
US11344808B2 (en) 2019-06-28 2022-05-31 Activision Publishing, Inc. Systems and methods for dynamically generating and modulating music based on gaming events, player profiles and/or player reactions
US11351459B2 (en) 2020-08-18 2022-06-07 Activision Publishing, Inc. Multiplayer video games with virtual characters having dynamically generated attribute profiles unconstrained by predefined discrete values
US11351466B2 (en) 2014-12-05 2022-06-07 Activision Publishing, Ing. System and method for customizing a replay of one or more game events in a video game
US11420122B2 (en) 2019-12-23 2022-08-23 Activision Publishing, Inc. Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
US11423605B2 (en) 2019-11-01 2022-08-23 Activision Publishing, Inc. Systems and methods for remastering a game space while maintaining the underlying game simulation
US11439904B2 (en) 2020-11-11 2022-09-13 Activision Publishing, Inc. Systems and methods for imparting dynamic and realistic movement to player-controlled avatars in video games
US11524234B2 (en) 2020-08-18 2022-12-13 Activision Publishing, Inc. Multiplayer video games with virtual characters having dynamically modified fields of view
US11537209B2 (en) 2019-12-17 2022-12-27 Activision Publishing, Inc. Systems and methods for guiding actors using a motion capture reference system
US11563774B2 (en) 2019-12-27 2023-01-24 Activision Publishing, Inc. Systems and methods for tracking and identifying phishing website authors
US11679330B2 (en) 2018-12-18 2023-06-20 Activision Publishing, Inc. Systems and methods for generating improved non-player characters
US11712627B2 (en) 2019-11-08 2023-08-01 Activision Publishing, Inc. System and method for providing conditional access to virtual gaming items
US11717753B2 (en) 2020-09-29 2023-08-08 Activision Publishing, Inc. Methods and systems for generating modified level of detail visual assets in a video game
US11724188B2 (en) 2020-09-29 2023-08-15 Activision Publishing, Inc. Methods and systems for selecting a level of detail visual asset during the execution of a video game
US11794107B2 (en) 2020-12-30 2023-10-24 Activision Publishing, Inc. Systems and methods for improved collision detection in video games
US11833423B2 (en) 2020-09-29 2023-12-05 Activision Publishing, Inc. Methods and systems for generating level of detail visual assets in a video game
US11853439B2 (en) 2020-12-30 2023-12-26 Activision Publishing, Inc. Distributed data storage system providing enhanced security
US11972086B2 (en) 2019-03-18 2024-04-30 Activision Publishing, Inc. Automatic increasing of capacity of a virtual space in a virtual world

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001231029A (ja) * 2000-02-18 2001-08-24 Minolta Co Ltd 遠隔カメラシステム
GB2360413A (en) * 2000-03-16 2001-09-19 Lee Scott Friend Wide angle parabolic imaging and image mapping apparatus
US6559846B1 (en) * 2000-07-07 2003-05-06 Microsoft Corporation System and process for viewing panoramic video
US7095905B1 (en) 2000-09-08 2006-08-22 Adobe Systems Incorporated Merging images to form a panoramic image
US6895126B2 (en) 2000-10-06 2005-05-17 Enrico Di Bernardo System and method for creating, storing, and utilizing composite images of a geographic location
CA2425482C (en) * 2000-10-11 2015-12-01 United Video Properties, Inc. Systems and methods for caching data in media-on-demand systems
FR2817441B1 (fr) * 2000-11-29 2004-01-16 Thomson Multimedia Sa Methode de visualisation d'une sequence video dans une fenetre d'un panorama
US6681004B2 (en) 2001-03-22 2004-01-20 Koninklijke Philips Electronics N.V. Telephone memory aid
US7006707B2 (en) 2001-05-03 2006-02-28 Adobe Systems Incorporated Projecting images onto a surface
US6894690B2 (en) 2001-06-20 2005-05-17 Engineering Technology Associates, Inc. Method and apparatus for capturing and viewing a sequence of 3-D images
FR2828754A1 (fr) * 2001-08-14 2003-02-21 Koninkl Philips Electronics Nv Visualisation d'un montage d'une video panoramique par application de commandes de navigation a ladite video panoramique
US7103236B2 (en) * 2001-08-28 2006-09-05 Adobe Systems Incorporated Methods and apparatus for shifting perspective in a composite image
US6970595B1 (en) * 2002-03-12 2005-11-29 Sonic Solutions, Inc. Method and system for chroma key masking
US20030179216A1 (en) * 2002-03-22 2003-09-25 Enroute, Inc. Multi-resolution video-caching scheme for interactive and immersive videos
US20040001091A1 (en) * 2002-05-23 2004-01-01 International Business Machines Corporation Method and apparatus for video conferencing system with 360 degree view
US7082572B2 (en) * 2002-12-30 2006-07-25 The Board Of Trustees Of The Leland Stanford Junior University Methods and apparatus for interactive map-based analysis of digital video content
US7352374B2 (en) * 2003-04-07 2008-04-01 Clairvoyante, Inc Image data set with embedded pre-subpixel rendered image
CN100550401C (zh) * 2003-07-11 2009-10-14 皇家飞利浦电子股份有限公司 用于显示设备的封装结构
US20050025465A1 (en) * 2003-08-01 2005-02-03 Danieli Damon V. Enhanced functionality for audio/video content playback
US7118228B2 (en) * 2003-11-04 2006-10-10 Hewlett-Packard Development Company, L.P. Image display system
CN1304938C (zh) * 2004-08-07 2007-03-14 马堃 一种静态环视图像的动态显示方法及其浏览器
KR100677142B1 (ko) * 2004-08-13 2007-02-02 경희대학교 산학협력단 파노라마 영상의 움직임 추정 및 보상
AU2005200888B2 (en) 2005-02-28 2009-01-08 Canon Kabushiki Kaisha Visualising camera position in recorded video
US7840032B2 (en) * 2005-10-04 2010-11-23 Microsoft Corporation Street-side maps and paths
US7660464B1 (en) 2005-12-22 2010-02-09 Adobe Systems Incorporated User interface for high dynamic range merge image selection
US7860343B2 (en) * 2006-04-10 2010-12-28 Nokia Corporation Constructing image panorama using frame selection
US20080043020A1 (en) * 2006-08-18 2008-02-21 Microsoft Corporation User interface for viewing street side imagery
US8103125B2 (en) * 2007-03-13 2012-01-24 International Business Machines Corporation Generating an amalgamated image including a static image and a dynamic image
CA3036872C (en) * 2007-05-25 2020-04-28 Google Llc Rendering, viewing and annotating panoramic images, and applications thereof
US8207962B2 (en) * 2007-06-18 2012-06-26 Mediatek Inc. Stereo graphics system based on depth-based image rendering and processing method thereof
WO2009003169A2 (en) * 2007-06-27 2008-12-31 University Of Florida Research Foundation, Inc. Display-based interactive simulation with dynamic panorama
KR100882011B1 (ko) * 2007-07-29 2009-02-04 주식회사 나노포토닉스 회전 대칭형의 광각 렌즈를 이용하여 전방위 영상을 얻는 방법 및 장치
WO2009017332A1 (en) * 2007-07-29 2009-02-05 Nanophotonics Co., Ltd. Methods of obtaining panoramic images using rotationally symmetric wide-angle lenses and devices thereof
WO2009017331A1 (en) * 2007-07-29 2009-02-05 Nanophotonics Co., Ltd. Method and apparatus for obtaining panoramic and rectilinear images using rotationally symmetric wide-angle lens
GB2456802A (en) * 2008-01-24 2009-07-29 Areograph Ltd Image capture and motion picture generation using both motion camera and scene scanning imaging systems
US8717404B2 (en) * 2010-04-27 2014-05-06 Lifesize Communications, Inc. Recording a videoconference based on recording configurations
US9635251B2 (en) 2010-05-21 2017-04-25 Qualcomm Incorporated Visual tracking using panoramas on mobile devices
US8933986B2 (en) 2010-05-28 2015-01-13 Qualcomm Incorporated North centered orientation tracking in uninformed environments
US9325804B2 (en) * 2010-11-08 2016-04-26 Microsoft Technology Licensing, Llc Dynamic image result stitching
US8548269B2 (en) 2010-12-17 2013-10-01 Microsoft Corporation Seamless left/right views for 360-degree stereoscopic video
EP2754131B1 (en) 2011-09-08 2022-10-26 Nautilus, Inc. System and method for visualizing synthetic objects withinreal-world video clip
JP2013101525A (ja) * 2011-11-09 2013-05-23 Sony Corp 画像処理装置および方法、並びにプログラム
US9153073B2 (en) * 2012-05-23 2015-10-06 Qualcomm Incorporated Spatially registered augmented video
US9723034B2 (en) * 2012-12-13 2017-08-01 Mitel Networks Corporation Online meeting system and method
DE102013201377A1 (de) * 2013-01-29 2014-07-31 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zum Verarbeiten von 3d-Bilddaten
US9892761B2 (en) 2013-02-22 2018-02-13 Fuji Xerox Co., Ltd. Systems and methods for creating and using navigable spatial overviews for video
US10482777B2 (en) 2013-02-22 2019-11-19 Fuji Xerox Co., Ltd. Systems and methods for content analysis to support navigation and annotation in expository videos
WO2015036003A1 (en) * 2013-09-14 2015-03-19 Taskin Sakarya Virtual transportation machine
US10126913B1 (en) * 2013-11-05 2018-11-13 Google Llc Interactive digital map including context-based photographic imagery
US9742995B2 (en) 2014-03-21 2017-08-22 Microsoft Technology Licensing, Llc Receiver-controlled panoramic view video share
US9883101B1 (en) * 2014-07-23 2018-01-30 Hoyos Integrity Corporation Providing a real-time via a wireless communication channel associated with a panoramic video capture device
US9917877B2 (en) 2014-10-20 2018-03-13 Google Llc Streaming the visible parts of a spherical video
CN112218074A (zh) * 2014-10-20 2021-01-12 谷歌有限责任公司 连续预测域
US9918082B2 (en) 2014-10-20 2018-03-13 Google Llc Continuous prediction domain
US9918094B2 (en) 2014-10-20 2018-03-13 Google Llc Compressing and representing multi-view video
US9704298B2 (en) * 2015-06-23 2017-07-11 Paofit Holdings Pte Ltd. Systems and methods for generating 360 degree mixed reality environments
KR102576908B1 (ko) * 2016-02-16 2023-09-12 삼성전자주식회사 동적 파노라마 기능을 제공하는 방법 및 장치
US11323754B2 (en) 2018-11-20 2022-05-03 At&T Intellectual Property I, L.P. Methods, devices, and systems for updating streaming panoramic video content due to a change in user viewpoint

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2256568B (en) 1991-06-05 1995-06-07 Sony Broadcast & Communication Image generation system for 3-D simulations
US5396583A (en) 1992-10-13 1995-03-07 Apple Computer, Inc. Cylindrical to planar image mapping using scanline coherence
US5495576A (en) * 1993-01-11 1996-02-27 Ritchey; Kurtis J. Panoramic image based virtual reality/telepresence audio-visual system and method
US5714997A (en) * 1995-01-06 1998-02-03 Anderson; David P. Virtual reality television system
US5729471A (en) * 1995-03-31 1998-03-17 The Regents Of The University Of California Machine dynamic selection of one video camera/image of a scene from multiple video cameras/images of the scene in accordance with a particular perspective on the scene, an object in the scene, or an event in the scene
EP0838068B1 (en) * 1995-07-10 2005-10-26 Sarnoff Corporation Method and system for rendering and combining images
US5923334A (en) * 1996-08-05 1999-07-13 International Business Machines Corporation Polyhedral environment map utilizing a triangular data structure
US5912670A (en) * 1996-08-05 1999-06-15 International Business Machines Corporation Method and apparatus for overlaying a bit map image on an environment map
US5793895A (en) * 1996-08-28 1998-08-11 International Business Machines Corporation Intelligent error resilient video encoder

Cited By (102)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10284454B2 (en) 2007-11-30 2019-05-07 Activision Publishing, Inc. Automatic increasing of capacity of a virtual space in a virtual world
US10627983B2 (en) 2007-12-24 2020-04-21 Activision Publishing, Inc. Generating data for managing encounters in a virtual world environment
US10981069B2 (en) 2008-03-07 2021-04-20 Activision Publishing, Inc. Methods and systems for determining the authenticity of copied objects in a virtual environment
US11957984B2 (en) 2008-03-07 2024-04-16 Activision Publishing, Inc. Methods and systems for determining the authenticity of modified objects in a virtual environment
US10376793B2 (en) 2010-02-18 2019-08-13 Activision Publishing, Inc. Videogame system and method that enables characters to earn virtual fans by completing secondary objectives
US10421019B2 (en) 2010-05-12 2019-09-24 Activision Publishing, Inc. System and method for enabling players to participate in asynchronous, competitive challenges
US10905963B2 (en) 2012-12-31 2021-02-02 Activision Publishing, Inc. System and method for creating and streaming augmented game sessions
US11446582B2 (en) 2012-12-31 2022-09-20 Activision Publishing, Inc. System and method for streaming game sessions to third party gaming consoles
US10137376B2 (en) 2012-12-31 2018-11-27 Activision Publishing, Inc. System and method for creating and streaming augmented game sessions
US10857468B2 (en) 2014-07-03 2020-12-08 Activision Publishing, Inc. Systems and methods for dynamically weighing match variables to better tune player matches
US10286326B2 (en) 2014-07-03 2019-05-14 Activision Publishing, Inc. Soft reservation system and method for multiplayer video games
US10376792B2 (en) 2014-07-03 2019-08-13 Activision Publishing, Inc. Group composition matchmaking system and method for multiplayer video games
US10322351B2 (en) 2014-07-03 2019-06-18 Activision Publishing, Inc. Matchmaking system and method for multiplayer video games
US11351466B2 (en) 2014-12-05 2022-06-07 Activision Publishing, Ing. System and method for customizing a replay of one or more game events in a video game
US10668381B2 (en) 2014-12-16 2020-06-02 Activision Publishing, Inc. System and method for transparently styling non-player characters in a multiplayer video game
US10118099B2 (en) 2014-12-16 2018-11-06 Activision Publishing, Inc. System and method for transparently styling non-player characters in a multiplayer video game
US11857876B2 (en) 2015-05-14 2024-01-02 Activision Publishing, Inc. System and method for providing dynamically variable maps in a video game
US10315113B2 (en) 2015-05-14 2019-06-11 Activision Publishing, Inc. System and method for simulating gameplay of nonplayer characters distributed across networked end user devices
US11224807B2 (en) 2015-05-14 2022-01-18 Activision Publishing, Inc. System and method for providing dynamically variable maps in a video game
US11524237B2 (en) 2015-05-14 2022-12-13 Activision Publishing, Inc. Systems and methods for distributing the generation of nonplayer characters across networked end user devices for use in simulated NPC gameplay sessions
US10286314B2 (en) 2015-05-14 2019-05-14 Activision Publishing, Inc. System and method for providing continuous gameplay in a multiplayer video game through an unbounded gameplay session
US10486068B2 (en) 2015-05-14 2019-11-26 Activision Publishing, Inc. System and method for providing dynamically variable maps in a video game
US11896905B2 (en) 2015-05-14 2024-02-13 Activision Publishing, Inc. Methods and systems for continuing to execute a simulation after processing resources go offline
US11420119B2 (en) 2015-05-14 2022-08-23 Activision Publishing, Inc. Systems and methods for initiating conversion between bounded gameplay sessions and unbounded gameplay sessions
US10213682B2 (en) 2015-06-15 2019-02-26 Activision Publishing, Inc. System and method for uniquely identifying physical trading cards and incorporating trading card game items in a video game
US10668367B2 (en) 2015-06-15 2020-06-02 Activision Publishing, Inc. System and method for uniquely identifying physical trading cards and incorporating trading card game items in a video game
US10835818B2 (en) 2015-07-24 2020-11-17 Activision Publishing, Inc. Systems and methods for customizing weapons and sharing customized weapons via social networks
US10471348B2 (en) 2015-07-24 2019-11-12 Activision Publishing, Inc. System and method for creating and sharing customized video game weapon configurations in multiplayer video games via one or more social networks
US10099140B2 (en) 2015-10-08 2018-10-16 Activision Publishing, Inc. System and method for generating personalized messaging campaigns for video game players
US11185784B2 (en) 2015-10-08 2021-11-30 Activision Publishing, Inc. System and method for generating personalized messaging campaigns for video game players
US10898813B2 (en) 2015-10-21 2021-01-26 Activision Publishing, Inc. Methods and systems for generating and providing virtual objects and/or playable recreations of gameplay
US10245509B2 (en) 2015-10-21 2019-04-02 Activision Publishing, Inc. System and method of inferring user interest in different aspects of video game streams
US10232272B2 (en) 2015-10-21 2019-03-19 Activision Publishing, Inc. System and method for replaying video game streams
US11679333B2 (en) 2015-10-21 2023-06-20 Activision Publishing, Inc. Methods and systems for generating a video game stream based on an obtained game log
US11310346B2 (en) 2015-10-21 2022-04-19 Activision Publishing, Inc. System and method of generating and distributing video game streams
US10376781B2 (en) 2015-10-21 2019-08-13 Activision Publishing, Inc. System and method of generating and distributing video game streams
US10694352B2 (en) 2015-10-28 2020-06-23 Activision Publishing, Inc. System and method of using physical objects to control software access
US10226703B2 (en) 2016-04-01 2019-03-12 Activision Publishing, Inc. System and method of generating and providing interactive annotation items based on triggering events in a video game
US10300390B2 (en) 2016-04-01 2019-05-28 Activision Publishing, Inc. System and method of automatically annotating gameplay of a video game based on triggering events
US11439909B2 (en) 2016-04-01 2022-09-13 Activision Publishing, Inc. Systems and methods of generating and sharing social messages based on triggering events in a video game
US10226701B2 (en) 2016-04-29 2019-03-12 Activision Publishing, Inc. System and method for identifying spawn locations in a video game
US10807003B2 (en) 2016-04-29 2020-10-20 Activision Publishing, Inc. Systems and methods for determining distances required to achieve a line of site between nodes
US10179289B2 (en) 2016-06-21 2019-01-15 Activision Publishing, Inc. System and method for reading graphically-encoded identifiers from physical trading cards through image-based template matching
US10586380B2 (en) 2016-07-29 2020-03-10 Activision Publishing, Inc. Systems and methods for automating the animation of blendshape rigs
US10573065B2 (en) 2016-07-29 2020-02-25 Activision Publishing, Inc. Systems and methods for automating the personalization of blendshape rigs based on performance capture data
US11189084B2 (en) 2016-07-29 2021-11-30 Activision Publishing, Inc. Systems and methods for executing improved iterative optimization processes to personify blendshape rigs
US10709981B2 (en) 2016-11-17 2020-07-14 Activision Publishing, Inc. Systems and methods for the real-time generation of in-game, locally accessible barrier-aware heatmaps
US10463964B2 (en) 2016-11-17 2019-11-05 Activision Publishing, Inc. Systems and methods for the real-time generation of in-game, locally accessible heatmaps
US10702779B2 (en) 2016-11-17 2020-07-07 Activision Publishing, Inc. Bandwidth and processing efficient heatmaps
US11213753B2 (en) 2016-11-17 2022-01-04 Activision Publishing, Inc. Systems and methods for the generation of heatmaps
US11207596B2 (en) 2016-11-17 2021-12-28 Activision Publishing, Inc. Systems and methods for the real-time generation of in-game, locally accessible barrier-aware heatmaps
US10987588B2 (en) 2016-11-29 2021-04-27 Activision Publishing, Inc. System and method for optimizing virtual games
US10500498B2 (en) 2016-11-29 2019-12-10 Activision Publishing, Inc. System and method for optimizing virtual games
US10991110B2 (en) 2016-12-06 2021-04-27 Activision Publishing, Inc. Methods and systems to modify a two dimensional facial image to increase dimensional depth and generate a facial image that appears three dimensional
US10650539B2 (en) 2016-12-06 2020-05-12 Activision Publishing, Inc. Methods and systems to modify a two dimensional facial image to increase dimensional depth and generate a facial image that appears three dimensional
US11423556B2 (en) 2016-12-06 2022-08-23 Activision Publishing, Inc. Methods and systems to modify two dimensional facial images in a video to generate, in real-time, facial images that appear three dimensional
US10055880B2 (en) 2016-12-06 2018-08-21 Activision Publishing, Inc. Methods and systems to modify a two dimensional facial image to increase dimensional depth and generate a facial image that appears three dimensional
US11741530B2 (en) 2017-02-23 2023-08-29 Activision Publishing, Inc. Flexible online pre-ordering system for media
US10861079B2 (en) 2017-02-23 2020-12-08 Activision Publishing, Inc. Flexible online pre-ordering system for media
US10818060B2 (en) 2017-09-05 2020-10-27 Activision Publishing, Inc. Systems and methods for guiding motion capture actors using a motion reference system
US11040286B2 (en) 2017-09-27 2021-06-22 Activision Publishing, Inc. Methods and systems for improved content generation in multiplayer gaming environments
US10974150B2 (en) 2017-09-27 2021-04-13 Activision Publishing, Inc. Methods and systems for improved content customization in multiplayer gaming environments
US10561945B2 (en) 2017-09-27 2020-02-18 Activision Publishing, Inc. Methods and systems for incentivizing team cooperation in multiplayer gaming environments
US10537809B2 (en) 2017-12-06 2020-01-21 Activision Publishing, Inc. System and method for validating video gaming data
US11117055B2 (en) 2017-12-06 2021-09-14 Activision Publishing, Inc. Systems and methods for validating leaderboard gaming data
US10463971B2 (en) 2017-12-06 2019-11-05 Activision Publishing, Inc. System and method for validating video gaming data
US11911689B2 (en) 2017-12-19 2024-02-27 Activision Publishing, Inc. Synchronized, fully programmable game controllers
US10981051B2 (en) 2017-12-19 2021-04-20 Activision Publishing, Inc. Synchronized, fully programmable game controllers
US11666831B2 (en) 2017-12-22 2023-06-06 Activision Publishing, Inc. Systems and methods for determining game events based on a crowd advantage of one or more players in the course of a multi-player video game play session
US11413536B2 (en) 2017-12-22 2022-08-16 Activision Publishing, Inc. Systems and methods for managing virtual items across multiple video game environments
US10864443B2 (en) 2017-12-22 2020-12-15 Activision Publishing, Inc. Video game content aggregation, normalization, and publication systems and methods
US11806626B2 (en) 2017-12-22 2023-11-07 Activision Publishing, Inc. Systems and methods for incentivizing player participation in bonus game play sessions
US11148063B2 (en) 2017-12-22 2021-10-19 Activision Publishing, Inc. Systems and methods for providing a crowd advantage to one or more players in the course of a multi-player video game play session
US11278813B2 (en) 2017-12-22 2022-03-22 Activision Publishing, Inc. Systems and methods for enabling audience participation in bonus game play sessions
US10765948B2 (en) 2017-12-22 2020-09-08 Activision Publishing, Inc. Video game content aggregation, normalization, and publication systems and methods
US10596471B2 (en) 2017-12-22 2020-03-24 Activision Publishing, Inc. Systems and methods for enabling audience participation in multi-player video game play sessions
US11883745B2 (en) 2018-11-19 2024-01-30 Activision Publishing, Inc. Systems and methods for providing a tailored video game based on a player defined time period
US11263670B2 (en) 2018-11-19 2022-03-01 Activision Publishing, Inc. Systems and methods for dynamically modifying video game content based on non-video gaming content being concurrently experienced by a user
US11192028B2 (en) 2018-11-19 2021-12-07 Activision Publishing, Inc. Systems and methods for the real-time customization of video game content based on player data
US11704703B2 (en) 2018-11-19 2023-07-18 Activision Publishing, Inc. Systems and methods for dynamically modifying video game content based on non-video gaming content being concurrently experienced by a user
US11115712B2 (en) 2018-12-15 2021-09-07 Activision Publishing, Inc. Systems and methods for indexing, searching for, and retrieving digital media
US11679330B2 (en) 2018-12-18 2023-06-20 Activision Publishing, Inc. Systems and methods for generating improved non-player characters
US11305191B2 (en) 2018-12-20 2022-04-19 Activision Publishing, Inc. Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
US11972086B2 (en) 2019-03-18 2024-04-30 Activision Publishing, Inc. Automatic increasing of capacity of a virtual space in a virtual world
US11344808B2 (en) 2019-06-28 2022-05-31 Activision Publishing, Inc. Systems and methods for dynamically generating and modulating music based on gaming events, player profiles and/or player reactions
US11097193B2 (en) 2019-09-11 2021-08-24 Activision Publishing, Inc. Methods and systems for increasing player engagement in multiplayer gaming environments
US11423605B2 (en) 2019-11-01 2022-08-23 Activision Publishing, Inc. Systems and methods for remastering a game space while maintaining the underlying game simulation
US11712627B2 (en) 2019-11-08 2023-08-01 Activision Publishing, Inc. System and method for providing conditional access to virtual gaming items
US11709551B2 (en) 2019-12-17 2023-07-25 Activision Publishing, Inc. Systems and methods for guiding actors using a motion capture reference system
US11537209B2 (en) 2019-12-17 2022-12-27 Activision Publishing, Inc. Systems and methods for guiding actors using a motion capture reference system
US11839814B2 (en) 2019-12-23 2023-12-12 Activision Publishing, Inc. Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
US11420122B2 (en) 2019-12-23 2022-08-23 Activision Publishing, Inc. Systems and methods for controlling camera perspectives, movements, and displays of video game gameplay
US11563774B2 (en) 2019-12-27 2023-01-24 Activision Publishing, Inc. Systems and methods for tracking and identifying phishing website authors
US11524234B2 (en) 2020-08-18 2022-12-13 Activision Publishing, Inc. Multiplayer video games with virtual characters having dynamically modified fields of view
US11351459B2 (en) 2020-08-18 2022-06-07 Activision Publishing, Inc. Multiplayer video games with virtual characters having dynamically generated attribute profiles unconstrained by predefined discrete values
US11833423B2 (en) 2020-09-29 2023-12-05 Activision Publishing, Inc. Methods and systems for generating level of detail visual assets in a video game
US11724188B2 (en) 2020-09-29 2023-08-15 Activision Publishing, Inc. Methods and systems for selecting a level of detail visual asset during the execution of a video game
US11717753B2 (en) 2020-09-29 2023-08-08 Activision Publishing, Inc. Methods and systems for generating modified level of detail visual assets in a video game
US11794104B2 (en) 2020-11-11 2023-10-24 Activision Publishing, Inc. Systems and methods for pivoting player-controlled avatars in video games
US11439904B2 (en) 2020-11-11 2022-09-13 Activision Publishing, Inc. Systems and methods for imparting dynamic and realistic movement to player-controlled avatars in video games
US11853439B2 (en) 2020-12-30 2023-12-26 Activision Publishing, Inc. Distributed data storage system providing enhanced security
US11794107B2 (en) 2020-12-30 2023-10-24 Activision Publishing, Inc. Systems and methods for improved collision detection in video games

Also Published As

Publication number Publication date
KR19990067722A (ko) 1999-08-25
KR100335306B1 (ko) 2002-05-06
JPH11296667A (ja) 1999-10-29
DE69831924D1 (de) 2005-11-24
EP0930584A2 (en) 1999-07-21
EP0930584B1 (en) 2005-10-19
EP0930584A3 (en) 2002-11-06
US6356297B1 (en) 2002-03-12
DE69831924T2 (de) 2006-06-29

Similar Documents

Publication Publication Date Title
JP3177221B2 (ja) 興味深いシーンのイメージを表示するための方法及び装置
US6763175B1 (en) Flexible video editing architecture with software video effect filter components
US8306399B1 (en) Real-time video editing architecture
US6968973B2 (en) System and process for viewing and navigating through an interactive video tour
Chen Quicktime VR: An image-based approach to virtual environment navigation
US6559846B1 (en) System and process for viewing panoramic video
US7868893B2 (en) Integration of graphical application content into the graphical scene of another application
US6570581B1 (en) On-location video assistance system with computer generated imagery overlay
US6763176B1 (en) Method and apparatus for real-time video editing using a graphics processor
JP2000353250A (ja) 3次元映画を生成し再生するシステムおよび方法
JP2011170881A (ja) 一般的三次元グラフィックスパイプラインを使用する低廉なデジタル・イメージ/ビデオの編集のための方法及び装置
US20040179262A1 (en) Open GL
KR102059732B1 (ko) 디지털 비디오 렌더링
US20050128220A1 (en) Methods and apparatuses for adjusting a frame rate when displaying continuous time-based content
US7046732B1 (en) Video coloring book
US20020158895A1 (en) Method of and a system for distributing interactive audiovisual works in a server and client system
WO2005002198A2 (en) Video playback image processing
JP2004325941A (ja) 描画処理装置、描画処理方法および描画処理プログラム、並びにそれらを備えた電子会議システム
Fukui et al. Virtual studio system for tv program production
JP2001222726A (ja) 画像処理方法および画像処理装置
JP2000030080A (ja) Vrシステム
JPWO2020066008A1 (ja) 画像データ出力装置、コンテンツ作成装置、コンテンツ再生装置、画像データ出力方法、コンテンツ作成方法、およびコンテンツ再生方法
Hernandez et al. Immersive video for virtual tourism
Sarmiento et al. Panoramic immersive videos-3d production and visualization framework
KR20050103297A (ko) 디스플레이용 그래픽 애니메이션의 기술 관리 방법 및 이방법의 구현을 위한 수신기 및 시스템

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080406

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080406

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090406

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090406

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100406

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110406

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110406

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120406

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130406

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130406

Year of fee payment: 12

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140406

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140406

Year of fee payment: 13

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term