JP5279754B2 - 遠隔の表示部へ選択的に伝送するために描画プリミティブを特定する方法及びシステム - Google Patents

遠隔の表示部へ選択的に伝送するために描画プリミティブを特定する方法及びシステム Download PDF

Info

Publication number
JP5279754B2
JP5279754B2 JP2010094793A JP2010094793A JP5279754B2 JP 5279754 B2 JP5279754 B2 JP 5279754B2 JP 2010094793 A JP2010094793 A JP 2010094793A JP 2010094793 A JP2010094793 A JP 2010094793A JP 5279754 B2 JP5279754 B2 JP 5279754B2
Authority
JP
Japan
Prior art keywords
frame buffer
queue
display
video adapter
display data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010094793A
Other languages
English (en)
Other versions
JP2010282609A (ja
Inventor
バイフォード,ダスティン
キャノン,アンソニー
ダーラン,ラメシュ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
VMware LLC
Original Assignee
VMware LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by VMware LLC filed Critical VMware LLC
Publication of JP2010282609A publication Critical patent/JP2010282609A/ja
Application granted granted Critical
Publication of JP5279754B2 publication Critical patent/JP5279754B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • G06F3/1462Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay with means for detecting differences between the image stored in the host and the images displayed on the remote displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1415Digital output to display device ; Cooperation and interconnection of the display device with other functional units with means for detecting differences between the image stored in the host and the images displayed on the displays
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/04Partial updating of the display screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00Solving problems of bandwidth in display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

関連出願の相互参照
本発明は、本願と同日出願の米国特許出願、名称「遠隔の表示部へ伝送するためにフレームバッファをコピーする方法及びシステム」(代理人整理番号:A336)に関し、当該出願は、参照することにより本明細書に組み込まれる。
現在のオペレーティングシステムは、通常、モニタなどの表示部に描画をレンダリングするために、アプリケーションがアクセスする画像描画インタフェース層を含んでいる。画像描画インタフェース層により、アプリケーションに描画用アプリケーションプログラミングインタフェース(API)が提供され、かかるアプリケーションを用いて、その後ビデオアダプタドライバに提供する描画コマンド一式へ、描画要求を変換する。ビデオアダプタドライバは順に、描画コマンドを受信し、ビデオアダプタ固有の描画プリミティブへ変換し、ビデオアダプタ(例えば、グラフィックカード、統合ビデオチップセット)へ転送する。ビデオアダプタは、ビデオ信号を発生させ連結された外部表示部へ伝送するのに使用される、ビデオアダプタのフレームバッファを更新するために、描画プリミティブを受信し直ちに処理するか、又は代わりに、順次実行するために、先入れ先出し(FIFO)キューに描画プリミティブを記憶する。かかる画像描画インタフェース層の一例には、Microsoft(登録商標) Windowsオペレーティングシステム(OS)のグラフィカルデバイスインタフェース(GDI)があり、Windows OSを介してアクセス可能な、ユーザレベル及びカーネルレベルで動的にリンクされる多数のライブラリとして実装されている。
サーバベースコンピューティング(SBC)や仮想デスクトップインフラストラクチャ(VDI)などの技術向上により、組織は従来のパーソナルコンピュータ(PC)を、データセンタの遠隔のデスクトップサーバ(又はその上で稼動する仮想マシン)上でホストされるデスクトップのインスタンスと交換することができるようになる。ユーザの端末にインストールされるシンクライアントアプリケーションは、ユーザ端末の表示部上でレンダリングするために、オペレーティングシステムセッションのグラフィカルユーザインタフェースを伝送する遠隔のデスクトップサーバに接続する。かかる遠隔のデスクトップサーバシステムの一例には、遠隔のデスクトップサーバからクライアントへフレームバッファ(画面上に表示されるピクセルごとの値を含む)を伝送するために、リモートフレームバッファ(RFB)プロトコルを利用する、バーチャルネットワークコンピューティング(VNC)がある。シンクライアントアプリケーションへ伝送されるグラフィカルユーザインタフェースに関連する表示データの量を減らすために、遠隔のデスクトップサーバは、フレームバッファの以前の状態を反映する、フレームバッファの第2のコピーを持ち続けてもよい。表示データの差異を特定し、符号化して(ネットワーク伝送帯域を減らして)、続いてシンクライアントアプリケーションへつながるネットワーク上へと伝送するために、この第2のコピーによって、遠隔のデスクトップサーバは、フレームバッファの以前の状態及び現在の状態を比較することが可能となる。
しかしながら、シンクライアントアプリケーションへつながるネットワーク上に表示データの差異を伝送することで、遠隔のデスクトップサーバで表示データの差異を符号化し、続いてシンクライアントアプリケーションで復号するために必要なコンピュータのオーバヘッドが原因となり、遠隔のデスクトップサーバとシンクライアントアプリケーションとの両方の働きが減衰し得る。一般的な例として、1秒間60回の速度で、解像度1920×1200、色深度1ピクセルあたり24ビットをサポートするフレームバッファ全体からネットワークへ、継続的にデータを伝送するには、1秒あたり3.09ギガビット以上の伝送が必要とされるであろう。表示データの差異(フレームバッファ全体以外)を特定し、更に伝送前に符号化技術により圧縮することができると仮定しても、依然として著しいネットワーク帯域が必要とされる場合がある。
本発明の1つ以上の実施形態は、表示データを記憶する一次フレームバッファと、遠隔のクライアント端末に表示データを伝送するために二次フレームバッファを使用する表示エンコーダと、を有するサーバにおいて、遠隔のクライアント端末に伝送される表示データの量を減少させる方法を提供する。かかる1つの方法では、完成した描画プリミティブの一覧を含むキューは、描画プリミティブを一次フレームバッファ内で実行するとすぐに、更新される。表示エンコーダは、二次フレームバッファの更新された表示データに対応する描画プリミティブの一覧を要求し、描画プリミティブの要求された一覧はキューから抽出され、表示エンコーダに提供される。描画プリミティブの要求された一覧を受信するとすぐに、表示エンコーダは、帯域量を減らすように、描画プリミティブに対応する二次フレームバッファの更新された表示データ及び要求された一覧の中の描画プリミティブのいずれかを、遠隔のクライアント端末に選択的に伝送することができる。
一実施形態では、キューの各入力は、シーケンス番号及び描画プリミティブを含み、受信された要求は、二次フレームバッファの表示データを更新するための、最後の描画プリミティブに対応するシーケンス番号を含む。かかる実施形態では、抽出するステップは、最大で要求のシーケンス番号以下のシーケンス番号を含むキューの各入力を特定するステップを含む。
本発明の一実施形態に従う、遠隔のデスクトップサーバのブロック図を示す。 本発明の一実施形態に従う、「blitmap(ブリットマップ)」データ構造を示す。 本発明の一実施形態に従う、第2のブリットマップデータ構造を示す。 本発明の一実施形態に従う、FIFOキューを示す。 本発明の一実施形態に従う、アプリケーションからの描画要求をビデオアダプタへ伝送するステップを示すフロー図。 本発明の一実施形態に従う、ビデオアダプタからのフレームバッファデータを表示エンコーダへ伝送するステップを示すフロー図。 本発明の一実施形態に従い、ブリットマップデータ構造を切り取る一例を示す。 フレームバッファに行った該当する表示データの変更を伝送するよりむしろ、描画プリミティブを遠隔のクライアント表示部へ伝送することによって、帯域を節約する一例を示す。 本発明の一実施形態に従い、ビデオアダプタドライバから表示エンコーダへ描画プリミティブを伝送するステップを示すフロー図。
図1は、本発明の一実施形態に従う、遠隔のデスクトップサーバのブロック図を示す。遠隔のデスクトップサーバ100は、デスクトップ、ノートパソコン、又はx86アーキテクチャプラットフォームなどのサーバ級のハードウェアプラットフォーム102に構成してもよい。かかるハードウェアプラットフォームはCPU104、RAM106、ネットワークアダプタ108(NIC108)、ハードドライブ110、及び限定するものではないがマウスやキーボードなどその他I/O装置(図1には図示せず)を含んでもよい。
以下、ハイパーバイザ124とも称される仮想化ソフトウェア層は、ハードウェアプラットフォーム102の上面に設置される。ハイパーバイザ124は仮想マシン実行空間126を支え、その内部では複数の仮想マシン(VM128〜128)を同時に設置し実行してもよい。一実施形態において、各VM128〜128は異なるクライアント端末から遠隔で接続される異なるユーザをサポートする。VM128〜128の各々に対して、ハイパーバイザ124は、CPU132、RAM134、ハードドライブ136、NIC138、及びビデオアダプタ140などのソフトウェアに実装されるエミュレートされたハードウェアを含む、対応する仮想ハードウェアプラットフォーム(即ち、仮想ハードウェアプラットフォーム130〜130)を管理する。エミュレートされたビデオアダプタ140は、ビデオ表示部(即ち「フレーム」)が最新情報に更新される起点となるピクセル値のバッファを留めるビデオアダプタ140によって使用される、メモリの一部分であるフレームバッファ142と、フレームバッファ142を更新するために使用される描画プリミティブの一覧を留めるビデオアダプタ140によって使用される、メモリの一部分である先入れ先出し(FIFO)キュー144とを割り当てて保持する。一実施形態では、FIFOキュー144は、ビデオアダプタ140とビデオアダプタドライバ154との間でアクセスされ共有される共有メモリバッファである。
仮想ハードウェアプラットフォーム130は、VM128などのインスタンスを作成される仮想マシンに対し、アプリケーション148を実行するために、Microsoft Windows(登録商標)、Linux(登録商標)、Solaris(登録商標)x86、NetWare、FreeBSDなど、x86をサポートする任意のオペレーティングシステムを、ゲストオペレーティングシステム(OS)146としてインストールしてもよいように、標準x86ハードウェアアーキテクチャの同等品として機能する場合がある。表示部に描画を要求するアプリケーション148は、順に、描画要求を描画コマンドに変換し、描画コマンドをデバイスドライバ層152のビデオアダプタドライバ154へ伝送する画像描画インタフェース層150(例えば、一実施形態では、Microsoft Windows(登録商標)GDI)により提供されるAPIを介して、描画要求を出す。図1の実施形態に示す通り、ビデオアダプタドライバ154は、ビデオアダプタ140のフレームバッファ142の潜在的に変更された領域を追跡し続ける、以下で「ブリットマップ」データ構造と称されるデータ構造156だけでなく、描画プリミティブも追跡し続けるために、自身のFIFOキュー157を割り当てて保持する。ブリットマップデータ構造の実装及び使用法に関しては、本発明を実施するための形態の中で後ほど詳細に説明する。デバイスドライバ層152は、エミュレートされたデバイスがまるでハードウェアプラットフォーム102の実際の物理的デバイスであるかのように、仮想ハードウェアプラットフォーム130(例えば、仮想NIC138など)のかかるエミュレートされるデバイスと相互作用する、NICドライバ158などの更なるデバイスドライバを含む。ハイパーバイザ124は概して、デバイスドライバ層152のデバイスドライバから、仮想プラットフォーム130のエミュレートされたデバイスによって受信される要求を受け取り、ハードウェアプラットフォーム102において実デバイスと通信するハイパーバイザ124の物理デバイスドライバ層で、実デバイスドライバに対応する形に要求を変換する役割を果たす。
グラフィカルユーザインタフェースを遠隔のクライアント端末の表示部へ伝送するために、符号化し(例えば、ネットワーク伝送帯域を減らすため)、続いてNICドライバ158(例えば、仮想NIC138、最終的には物理NIC108)を介してネットワーク上へ伝送するために、VM128は更にフレームバッファ142からデータを獲得するための、(例えばAPIを介する)ビデオアダプタドライバ154と相互作用する、表示エンコーダ160を含む。表示エンコーダ160は、フレームバッファ142から受信したデータを記憶する二次フレームバッファ162と、二次フレームバッファ162の変更された領域を特定するための自身のブリットマップデータ構造164(以下、エンコーダブリットマップデータ構造164と称される)と、実行すると二次フレームバッファ162の領域を変更する結果となる描画プリミティブを追跡するための自身のFIFOキュー166と、を割り当て保持する。一実施形態において、表示エンコーダ160は、フレームバッファ142になされた変更を二次フレームバッファ162にコピーし、遠隔のクライアント端末へ伝送するために、ビデオアダプタドライバ154を継続的にポーリングする(例えば、1秒あたり30回又は60回)。
当業者は、図1の仮想化構成要素を記述するのに使用される様々な用語、層、及び分類が、それらの機能や本発明の精神から逸脱しない限り、異なる名称で称される場合があることを理解するであろう。例えば、仮想ハードウェアプラットフォーム130〜130は、ハイパーバイザ124と対応するVM128〜128との間の動作を調整するために必要とされる、仮想システムのサポートを実装する仮想マシンモニタ(VMM)166〜166の一部とみなしてもよい。或いは、仮想ハードウェアプラットフォーム130〜130もまた、VMM166〜166から分離しているとみなしても、VMM166〜166がハイパーバイザ124から分離しているとみなしてもよい。本発明の実施形態で使用してもよいハイパーバイザ124の一例には、California州Palo AltoのVMware,Inc.から市販されているVMwareのESX(登録商標)製品の構成要素が含まれる。本発明の実施形態は、ハイパーバイザがオペレーティングシステムの上部に実装される、ホストされる仮想マシンシステムなど、その他の仮想化されたコンピュータシステムで実施してもよいことを更に理解されたい。
図2は、本発明の一実施形態に従う、ブリットマップデータ構造を示す。ビデオアダプタドライバ154及び表示エンコーダ160の両方は、フレームバッファ142及び二次フレームバッファ162それぞれの変更された領域を追跡するために、ブリットマップデータ構造を利用する。図2の実施形態では、ブリットマップデータ構造は2次元ビットベクトルであり、ビットベクトルの各ビット(本願では「ブリットマップ入力」とも称される)は、対応するフレームバッファのN×N領域を表す。ビットベクトルに置かれるビット(本願では「印付き」ブリットマップ入力とも称される)は、フレームバッファの関連するN×N領域内の少なくとも1つのピクセル値が、特定の時間間隔(例えば、表示エンコーダ160によるポーリング要求の間)に変更されていることを示す。例えば、図2はフレームバッファの64×64ピクセルブロック200を示し、黒く塗りつぶされた点は、特定の時間間隔で変更されているピクセル値を表す。8×8ビットベクトル205は、ブリットマップデータ構造の対応するブリットマップ入力ブロックを表し、各ビット(又はブリットマップ入力)はピクセルブロック200の8×8領域に対応する。ビットベクトル205の設定ビット(又は印付きブリットマップ入力)は「X」で表される。例えば、印付きブリットマップ入力210は、フレームバッファ領域215に対応する(黒い点が示すように、フレームバッファ領域215の全ピクセル値が指定される時間間隔で変化している)。図2は、黒く塗りつぶされた点が示す通り、変化したピクセル値を有するフレームバッファピクセルブロック200の領域に対応する、ビットベクトル205における他の印付きブリットマップ入力を示す。図2の205に類似するブリットマップデータ構造の2次元ビットベクトル実施形態をトラバースすることで、フレームバッファのどのN×N領域がある時間間隔で変化しているのか、容易に特定することができる(その時間間隔で変化しなかった領域を容易に飛ばすこともできる)。
図3は、本発明の一実施形態に従う、第2のブリットマップデータ構造を示す。図3の実施形態では、ブリットマップデータ構造は領域四分木であり、ツリーの各レベルは2×2ピクセルブロックのより高解像度のビットベクトルを表す。図3はフレームバッファの64×64ピクセルブロック300を示し、黒く塗りつぶされた点は、特定の時間間隔で変化しているピクセル値を表す。変化した各ピクセル(例えば、黒く塗りつぶされた点)が最小サブクワドラント内に含まれるまで、ピクセルブロックは連続的にますます小さなサブクワドラントへ更に分割される。例えば、ピクセルブロック300では、最小サブクワドラントは、領域305、310、及び315などの8×8ピクセル領域である。より大きなサブクワドラントには、330などの32×32サブクワドラントだけでなく、320や325などの16×16サブクワドラントが含まれる。4レベルの領域四分木335は、フレームバッファの64×64ピクセルブロック300に対応するブリットマップデータ構造を表す。図3に示す通り、領域四分木335の各レベルは、ビットベクトルのレベルにより、64×64から8×8の範囲で、ピクセルブロック300内で特定のサイズのサブクワドラントに対応するビットを有するビットベクトルとして実装することができる。「X」の印が付けられる領域四分木335にあるノードは、ピクセルブロック300におけるノードの対応するサブクワドラントで少なくとも1つのピクセル値が、特定の時間間隔で変更されている(黒く塗りつぶされた点で示されている)ことを示す。例えば、領域四分木335のレベル0(64×64レベル)のノード300は完全な64×64ピクセルブロックを表し、ピクセルブロック300の少なくとも1つのピクセル値が変化しているため、「X」の印が付いている。対照的に、領域四分木335のレベル1(32×32レベル)のノード330は32×32サブクワドラント330を表し、サブクワドラント330のピクセル値は変化していないため、印は付いていない。同様に、レベル2(16×16レベル)のノード320及び325は16×16サブクワドラント320及び325をそれぞれ表し、サブクワドラント320及び325のピクセル値は変化していないため、印は付いていない。レベル3(8×8レベル)のノード305、310、及び315はピクセルブロック300の8×8領域305、310、及び315にそれぞれ対応し、従って印が付いている。図3の実施形態など、ブリットマップデータ構造の領域四分木実施形態では、領域四分木の最深レベルにある各ノード(即ち、8×8ピクセル領域などの最小サブクワドラントに対応)はブリットマップ入力である。ブリットマップデータ構造の領域四分木実施形態をトラバースすることで、フレームバッファのどの8×8領域(又はその他最小サイズのサブクワドラント)が、ある時間間隔で変化しているのかを容易に特定することができる。更に、そのツリー構造のため、その時間間隔で変化しなかったフレームバッファの大きなサイズのサブクワドラントを、迅速に飛ばすこともできる。ブリットマップデータ構造の領域四分木実施形態は、領域四分木の特定の実装に応じて、更にブリットマップデータ構造が使用するメモリを節約できる場合があることを理解されたい。例えば、図2のブリットマップデータ構造205の2次元ビットベクトル実施形態では、8×8領域がいくつ無印であっても64ビットが消費される一方で、図3の領域四分木335では印の付いている8×8領域が少ないと、消費されるビットも少なくなる。図に示す通り、ブリットマップデータ構造335が33ビットを利用する一方で、ブリットマップデータ構造205を実装することにより64ビットが利用される。エンコーダブリットマップデータ構造164及びドライバブリットマップデータ構造156は各々、図2及び図3のデータ構造を含む種々の異なるデータ構造を使用して実装されてもよく、いずれか特定の実施形態では、エンコーダブリットマップデータ構造164はドライバブリットマップデータ構造156とは異なるデータ構造を使用してもよいことを理解されたい。
図4は、本発明の一実施形態に従う、FIFOキューを示す。ビデオアダプタ140、ビデオアダプタドライバ154、及び表示エンコーダ160は各々、フレームバッファ142(ビデオアダプタ140及びビデオアダプタドライバ154用)、及び二次フレームバッファ162(表示エンコーダ160用)の描画プリミティブを追跡し続けるために、FIFOキューを利用する。図4のFIFOキュー400はサイズ100の円形バッファであり、FIFOキュー400の各入力には、シーケンス番号405及び描画プリミティブ410が含まれる。一実施形態では、描画プリミティブの例には、コピー、(例えば、長方形区域から別の長方形区域へ)、塗りつぶし(例えば、色を伴う長方形区域)、更新(例えば、既存の長方形区域に新規表示データ)などの基本的な描画命令が含まれる。一例として、FIFOキュー入力415は、フレームバッファ142の区域にある元の長方形の内容を、フレームバッファ142の別の区域にある目的地の長方形へコピーするように、ビデオアダプタ140を構成する描画プリミティブと、8というシーケンス番号と、を有する。自由入力ポインタ420は、新規入力(即ち、キュー入力6)を挿入するためにFIFOキュー400における次の入力を指し、新規入力がFIFOキュー400に挿入される度にインクリメントされる。現入力ポインタ425は、ビデオアダプタ140(即ち、キュー入力97)により実行されるべきFIFOキュー400の次の入力を指し、描画プリミティブの実行が完了する度にインクリメントされる。図4に示す通り、キュー入力6から96は、ビデオアダプタ140によって既に実行されている描画プリミティブを有するキュー入力(実行された入力430と称される)の集合を表し、キュー入力1から5及び97から100は、未実行の描画プリミティブを含むキュー入力の集合、又はそうでなければ空入力を表す(未実行の入力435と称される)。FIFOキューの代替となる実施形態は、FIFOキュー144、157、及び166のうちいずれかとして使用されてもよいことを理解されたい。例えば、一実施形態では、ビデオアダプタ140のFIFOキュー144は、シーケンス番号を持たなくてもよい。同様に、代替の実施形態では、キューの起点から補正値を決定することで、(キュー入力のフィールドとして記憶するよりむしろ)シーケンス番号を生成することができるように、FIFOキューに記憶される各描画プリミティブは同量のバイト(例えば、24バイト)を消費する。
図5は、本発明の一実施形態に従う、アプリケーションからビデオアダプタへ描画要求を伝送するステップを示すフロー図である。ステップは、図1の遠隔のデスクトップサーバ100の構成要素を参照して説明されるが、ステップを行うように構成されるいずれのシステムも、いずれの順番においても本発明と一致することを理解されたい。
図5の実施形態に従い、ステップ505では、実行中、アプリケーション500(即ち、ゲストOS146上で作動しているアプリケーション148のうちの1つ)が、例えば、ユーザの操作に合わせてグラフィカルユーザインタフェースを更新するよう、画面へ描画要求を出すために、画像描画インタフェース層150(例えば、Microsoft WindowsのGDI)のAPIにアクセスする。ステップ510では、ゲストOS146を介して、画像描画インタフェース層150が描画要求を受信し、ビデオアダプタドライバ154により認識される描画コマンドへ変換する。ステップ515では、画像描画インタフェース層150が描画コマンドをビデオアダプタドライバ154へ伝送する。ステップ520では、ビデオアダプタドライバ154が描画コマンドを受信し、ドライバブリットマップデータ構造156の印付き入力に対応するフレームバッファ142の領域内のピクセル値の少なくとも一部分を、描画コマンドを実行した結果として更新する予定であることを示すため、ドライバブリットマップデータ構造156の入力に印を付ける。一実施形態では、ビデオアダプタドライバ154は、描画コマンド(即ち、本願で「バウンディングボックス」とも称される)を実行した結果として更新される予定のピクセルを囲む最小サイズの長方形などの、フレームバッファ142内の区域を計算するか、そうでなければその区域を決定する。その後ビデオアダプタドライバ154は、決定された区域にピクセル値を含むフレームバッファ154の領域に対応するドライバブリットマップデータ構造156のブリットマップ入力全てを特定し印を付けることができる。ビデオアダプタドライバ154は、ステップ525では、描画コマンドをデバイス固有の描画プリミティブに変換し、ステップ530では、デバイス固有の描画プリミティブをそのFIFOキュー157に挿入し、それによってFIFOキュー157の自由入力ポインタをインクリメントする。ステップ535では、次いでビデオアダプタドライバ154が描画プリミティブをFIFOキュー144に挿入し(例えば、FIFOキュー144をビデオアダプタドライバ154とビデオアダプタ140との間で共有する実施形態で)、それによってFIFOキュー144の自由入力ポインタをインクリメントする。ステップ540では、描画プリミティブを機能させる準備ができると、ビデオアダプタ140がFIFOキュー144の描画プリミティブに従い、フレームバッファ142を更新する。具体的には、ステップ545で、ビデオアダプタ140は、描画プリミティブの実行を一度完成すると、FIFOキュー144の現入力ポインタをインクリメントし、ステップ550では、ビデオアダプタドライバ154にFIFOキュー157の現入力ポインタをインクリメントするように通知し、ステップ555でビデオアダプタドライバ154が実行する。
図6は、本発明の一実施形態に従い、ビデオアダプタから表示エンコーダへフレームバッファデータを伝送するステップを示したフロー図である。ステップは図1の遠隔のデスクトップサーバ100の構成要素を参照して説明されるが、ステップを行うように構成されるいずれのシステムも、いずれの順番においても本発明と一致することを理解されたい。
図6の実施形態に従い、表示エンコーダ160は、ビデオアダプタ140のフレームバッファ154内にあるデータを手に入れ、符号化し、遠隔のクライアント端末に受信させるためにネットワーク上へ(例えば、NICドライバ158経由で)伝送するために、継続的にビデオアダプタドライバ154をポーリングする(例えば、1秒あたり30回又は60回)、ゲストOS146上で行われるプロセスである。ステップ600では、表示エンコーダ160は、ビデオアダプタドライバ154によって該エンコーダに向けられたAPIルーチンを介して、ビデオアダプタドライバ154へフレームバッファ更新要求を発行し、ビデオアダプタドライバ154が直接二次フレームバッファ162を修正することを可能とするために、二次フレームバッファ162へのメモリ参照(例えば、ポインタ)をビデオアダプタドライバ154へ受け渡す。ビデオアダプタドライバ154は、ステップ605ではフレームバッファ更新要求を受信し、ステップ610では、表示エンコーダ160からのフレームバッファ更新要求時から変化している(図5に記述した通り、アプリケーションからの描画要求による)フレームバッファ142の領域に対応する印付きブリットマップ入力を特定するために、ドライバブリットマップデータ構造156をトラバースする。ステップ615で、現ブリットマップ入力に印が付いている場合、その後、ステップ620では、ビデオアダプタドライバ154はビデオアダプタ140からフレームバッファ142の対応領域(即ち、領域内のピクセル値)を要求する。ステップ625では、ビデオアダプタ140は要求を受信し、フレームバッファ142の要求領域をビデオアダプタドライバ154へ伝送する。
ビデオアダプタドライバ154は、ステップ630で、フレームバッファ142の要求領域を受信し、ステップ635で、フレームバッファ142の受信された要求領域のピクセル値を、二次フレームバッファ162にある関連領域のピクセル値と比較し、それによって、表示エンコーダ160からの前フレームバッファ更新要求に対するビデオアダプタドライバ154の返答が完了するとすぐに、フレームバッファ142の以前の状態が反映される。この比較ステップ635により、ビデオアダプタドライバ154は、図5で説明した通り、アプリケーションによる描画要求の視覚的冗長伝送が原因となって起こり得る非効率を特定することができる。例えば、おそらく機能性の描画に関連する態様を最適化する関心が欠如しているために、図5のステップ505において、実際にはグラフィカルユーザインタフェースの小領域のみがアプリケーションにより変更されている場合でも、グラフィカルユーザインタフェース全体を冗長的に再描写する描画要求を発出する場合があるアプリケーションもある。印付きブリットマップ入力の関連するフレームバッファ142領域が、新規ピクセル値(即ち、実際には変更されていないグラフィカルユーザインタフェースの部分に対応する領域)で更新する必要はない場合でさえも、かかる描画要求により、図5のステップ520にて印を付けられたドライバブリットマップデータ構造156に入力される。かかる印付きブリットマップ入力により、比較ステップ635では、ビデオアダプタドライバ154が表示エンコーダ160からの前フレームバッファ更新要求への返答を完了した後、アプリケーションから出された視覚的冗長化描画要求(ステップ505)により、かかる領域のピクセル値は変化しなかったため、印付きブリットマップ入力に関連するフレームバッファ142及び二次フレームバッファ162の領域が同一であることが示される。
ステップ640では、比較ステップ635によりフレームバッファ142及び二次フレームバッファ162の領域が同一であると示された場合、その後ステップ645で、ビデオアダプタドライバ154が印付きブリットマップ入力を削除することで、表示エンコーダ160からの前フレームバッファ更新要求にビデオアダプタドライバが返答を完了してから、実際のピクセル値がフレームバッファ142の関連領域で変更されていないと示すため、ドライバブリットマップデータ構造156を「切り取る」。図7は、本発明の一実施形態に従う、ブリットマップデータ構造を切り取る例を示す。図7はフレームバッファ142の88×72ピクセルブロック700を示す。705などの更に分割された各ブロックは、ドライバブリットマップデータ構造156内のブリットマップ入力に対応する8×8ピクセル領域を表す。図7に示す通り、アプリケーションは図5のステップ505に従い、ピクセルブロック700に示す通り、スマイルマークを描くように描画要求を出している。しかしながら、アプリケーションが出した描画要求は、スマイルマーク自体の個別ピクセルを描く要求だけよりむしろ、ピクセルブロック700全体を再描写するという非効率的な要求をしている。ドライバブリットマップデータ構造156の関連する11×9ブリットマップブロック710内の各ブリットマップ入力は、図5のステップ420に従い、ビデオアダプタドライバ154により印が付けられる(印付きブリットマップ入力715など)。しかしながら、図6に関連して本願で説明した通り、表示エンコーダ160がビデオアダプタドライバ154にフレームバッファ更新要求を発出する際、ビデオアダプタドライバ154はブリットマップブロック710を切り取ることができ、それによって、図6のステップ645に従い、フレームバッファ142の関連領域が実際には変更されていない(即ち、スマイルマーク用に変更されたピクセルを含まない)、無印のブリットマップ725などのブリットマップ入力を消去することで、ブリットマップブロック720を作成する。
図6に戻ると、しかしながらステップ640で、比較ステップ635がフレームバッファ142及び二次フレームバッファ162の領域が異なる(即ち、表示エンコーダ160からの前フレームバッファ更新要求に返答し終えた時点から、フレームバッファ142の領域内にある実際のピクセル値が、ステップ505におけるアプリケーションの描画要求の結果変化していた)ことを示した場合、その後ステップ650で、ビデオアダプタドライバ154は、二次フレームバッファ162に、フレームバッファ142の領域内にある変更されたピクセル値を適切に反映させるために、フレームバッファ142の領域内にあるピクセル値を、二次フレームバッファ162の関連領域へコピーする。ステップ655では、ビデオアダプタドライバ154がドライバブリットマップデータ構造156のトラバースを完了していなかった場合には、フローはステップ610へ戻る。ステップ655で、ビデオアダプタドライバ154がドライバブリットマップデータ構造156のトラバースを完成している場合は、その後ステップ660で、ビデオアダプタドライバ154によりドライバブリットマップデータ構造156のコピーが表示エンコーダ160へ提供され、そのコピーがエンコーダブリットマップデータ構造164となり、本願での名称となっている。ステップ645で、印付きブリットマップ入力がドライバブリットマップデータ構造156で消去された限りにおいて、エンコーダブリットマップデータ構造164が、変更された実際のピクセル値を有する二次フレームバッファ162に、より最適化された領域表示を反映する。ステップ665では、ビデオアダプタドライバ154は、表示エンコーダ160から続くフレームバッファ更新要求を受信するのに備えて、ドライバブリットマップデータ構造156内の印付きブリットマップ入力全てを消去する。ステップ670では、ビデオアダプタドライバ154により、表示エンコーダ160へ、ステップ600でフレームバッファ更新要求を発出するとすぐにフレームバッファ142内で実行されていた、FIFOキュー157にある最後の描画プリミティブのシーケンス番号が提供され、表示エンコーダ160にステップ600で発出されたフレームバッファ更新要求への返答を完了したことを示す。例えば、図4のFIFOキュー実施形態において、ステップ670で表示エンコーダ160に提供されたシーケンス番号は96であり、その番号は、現入力ポインタ425によりキュー入力が指し示されるより前に、即座にキュー入力を表す。
ビデオアダプタドライバ154が、ステップ600で表示エンコーダ160により発出されたフレームバッファ更新要求への返答を完了するとすぐに、二次フレームバッファ162は、表示エンコーダ160からの前フレームバッファ更新要求への返答完了以来のアプリケーションからの描画要求(図5のステップ505)の結果として、変更されたピクセル値全てを含み、エンコーダブリットマップデータ構造164は、二次フレームバッファ162内のどの領域がかかる変更されたピクセル値を含むかを示す、印付きブリットマップ入力を含む。
かかる情報により、ステップ675では、表示エンコーダ160は印付きブリットマップ入力に対してエンコーダブリットマップデータ構造164をトラバースし、かかる印付きブリットマップ入力に対応する二次フレームバッファ162にあるその領域のみを、符号化及び遠隔のクライアント表示部への伝送のために抽出することができる。しかしながら、一実施形態では、表示エンコーダ160は更に、二次フレームバッファ162に反映される、実際に対応する表示データの変更を伝送するよりむしろ、フレームバッファ142になされた変更を記述する描画プリミティブを選択的に伝送することで、フレームバッファ142に対する変更を遠隔のクライアント表示部へ伝送するのに必要な帯域量を減らすことができる。図8は、フレームバッファに対する関連する表示データの変更を伝送するよりむしろ、遠隔のクライアント表示部へ描画プリミティブを伝送することで、帯域を節約する一例を示す。ブロック800はフレームバッファ142の88×72ピクセルブロック800を表す。805などの更に分割された各ブロックは、ドライバブリットマップデータ構造156においてブリットマップ入力に対応する8×8ピクセル領域を表す。図8に示す通り、ビデオアダプタ140は、ピクセルブロック800の別の領域に既存の長方形をコピーする(即ち、図4のキュー入力415に類似)ために、FIFOキュー140内でキュー入力の「コピー」描画プリミティブ810をまさに実行しようとしている。既存の描画プリミティブ810を実行するとすぐに、フレームバッファ142のピクセルブロック800がピクセルブロック815に変形する(即ち、長方形はピクセルブロックの新規領域へコピーされる)。
同様に、図5のステップ520に従い、ドライバブリットマップデータ構造156も、ブリットマップデータ構造ブロック820が図示するように更新される。式825により、フレームバッファ142の変更された表示データを遠隔のクライアント端末へ伝送するのが、非圧縮フォーマットで約3840バイトの伝送を伴うことを示す一方、式830により、描画プリミティブ810自体を伝送するのは、約24バイトのみの伝送を伴うことを示している(即ち、遠隔のクライアント端末は受信した描画プリミティブを実行して、表示データを手に入れることになる)。更に、圧縮符号化技術により、伝送される表示データ量を減少させることが可能である一方で、例えば100の一要素により非圧縮フォーマットのサイズを減らす最適な圧縮技術を使用したとしても、依然として伝送には描画プリミティブの24バイトよりも大きい38.4バイトを必要とするであろう。別の利点はCPU時間の減少である。例えば、圧縮表示データを対応する表示プリミティブと同じか、又は更に小さいサイズに対して使用することが可能であってもよい一方で、表示プリミティブを伝送するには、不可欠な圧縮アルゴリズムより著しく少ないCPU時間が必要となる。
図9は本発明の一実施形態に従い、描画プリミティブをビデオアダプタドライバから表示エンコーダへ伝送するステップを示すフロー図である。ステップは図1の遠隔のデスクトップサーバ100の構成要素を参照して説明するが、ステップを行うように構成されるいずれのシステムも、いずれの順番においても本発明と一致することを理解されたい。
図6のステップ670でフレームバッファ更新要求を完成させるとすぐに、表示エンコーダ160は、ステップ900で、ビデオアダプタドライバ154により伝送されたシーケンス番号を受信する。ステップ905ではその後、表示エンコーダ160が、ステップ900で受信された二次フレームバッファ162に含まれる更新された表示データに関連する描画プリミティブ一覧への要求として、シーケンス番号及びFIFOキュー166へのメモリ参照を、ビデオアダプタドライバ154へ伝送する。ビデオアダプタドライバ154がステップ910で要求を受信すると、ステップ915では、最大で要求内受信シーケンス番号(以下)のシーケンス番号を有する、そのFIFOキュー157のそれらキュー入力を決定し、表示エンコーダ160でアクセスするためにキュー入力をFIFOキュー166内へコピーする。例えば、一実施形態では、ビデオアダプタドライバ154のFIFOキュー157は図5のステップ(即ち、ステップ530及び555)に従って更新され、図4のFIFOキュー400に類似の様式で実装され、ビデオアダプタドライバ154は更に、先のシーケンス番号のコピーを記憶する。この先のシーケンス番号は、図6のステップ670で、フレームバッファ更新要求に対して表示エンコーダ160へ伝送され、その直後に、現フレームバッファ更新要求は、表示エンコーダ160でステップ900の描画プリミティブ一覧を発出する結果をもたらした。またこの先のシーケンス番号は、現フレームバッファ更新要求の直前に、フレームバッファ更新要求のフレームバッファ142を更新するために利用された、FIFOキュー157にある最後の描画プリミティブのシーケンス番号を表す。このシーケンス番号の後のシーケンス番号、及び最大でステップ905で受信したシーケンス番号(以下)のシーケンス番号を有する、FIFOキュー157のキュー入力にあるそれら描画プリミティブは、図6のステップ650において二次フレームバッファ162へコピーされた表示データを更新した表示プリミティブを表す。かかる実施形態では、ビデオアダプタドライバ154が、ステップ920でそのFIFOキュー157からFIFOキュー166へ、これら表示プリミティブのキュー入力をコピーする。ステップ925ではその後、ビデオアダプタドライバ154が、それ自体のFIFOキュー157からこれらのキュー入力を消去するか、又はそうでなければ除去し、ステップ905からの描画プリミティブ一覧要求への返答を完了した表示エンコーダ160に通知する。
代替の実施形態では、図5のプロセスとは異なる様式で更新されるFIFOキュー157の異なる実装を利用してもよいことを理解されたい。例えば、一代替実施形態において、ステップ530では描画プリミティブをFIFOキュー157へ挿入しない。むしろ、FIFOキュー157へ挿入されるのは、ステップ550のビデオアダプタ140により完成していた描画プリミティブのみである。具体的には、ステップ550は、ビデオアダプタ140が、その後完成した描画プリミティブをそのFIFOキュー157へ挿入するビデオアダプタドライバ154へと完成した描画プリミティブを伝送するように修正される。かかる実施形態では、FIFOキュー157は単純なベクトルバッファとして実装することができ、自由入力ポインタ420も現入力ポインタ425も必要としない。具体的には、FIFOキュー157の先頭から要求されるシーケンス番号までの全入力は、ステップ910で表示エンコーダ160に提供され、ステップ925にて提供された入力を除去した後に、ステップ915で、残りの入力がFIFOキュー157の先頭へ移される。
ステップ925の後、表示エンコーダ160は、二次フレームバッファ162の更新された表示データと、二次フレームバッファ162のどの領域が更新された表示データを含むのかを示す、エンコーダブリットマップデータ構造164と、二次フレームバッファ162の更新された表示データを有効化した描画プリミティブの一覧を含む、FIFOキュー166と、へアクセスできる。表示エンコーダ160は、更新された表示データ自体を伝送するのか、又は更新された表示データを有効化するデータプリミティブを伝送するのか、表示データの変更を遠隔のクライアント端末へ伝播するのに、どちらがより効率的な方法かを決定することができる。例えば、図9の実施形態に戻ると、ステップ930では、表示エンコーダ160は、FIFOキュー166の他の描画プリミティブによって描かれないフレームバッファ領域内で描く、切り分けられた描画プリミティブを特定するために、FIFOキュー166にある描画プリミティブの一覧を見直す。ステップ935では、特定された描画プリミティブを伝送するのが、かかる描画プリミティブから影響を受ける表示データの量を伝送するより速い場合、その後ステップ940で、表示エンコーダ160が、描画プリミティブより影響を受けるフレームバッファ162の領域に対応するエンコーダブリットマップデータ構造164内にある、それらのブリットマップ入力を消去し、ステップ945で描画プリミティブを遠隔のクライアント端末へ伝送する。ステップ935では表示エンコーダ160が、特定された描画プリミティブよりも表示データを伝送する方がより効率的と決定した場合、その後ステップ950で、表示エンコーダは二次フレームバッファ162の表示データを伝送する(即ち、エンコーダブリットマップデータ構造164の印付き入力に従う)。ステップ935では、更新表示データ、又は対応する描画プリミティブのどちらかを、本願の教示に合致する遠隔のクライアント端末へ伝送するかを決定するために、様々な方法が表示エンコーダ160によって利用されてよいことを理解されたい。例えば、一実施形態では、表示エンコーダ160は、ステップ930で特定された描画プリミティブに影響を受ける表示データの量と、描画プリミティブ自体のサイズとを比較する。代替実施形態では、一定の表示プリミティブ(例えば、コピー又は塗りつぶし描画プリミティブ)は、影響を受ける表示データを伝送するのにより効率的だと想定される。本願の教示に合致する、描画プリミティブか影響を受ける表示データか、どちらを送信するかを決定するために、ヒューリスティクスをいくらでも使用してもよいことを理解されたい。
添付の請求項に記載する本発明のより広い精神及び範囲に逸脱することなく、本願に記載した個別の実施形態に様々な変更及び変形がなされる場合があることを理解されたい。例えば、図1は表示エンコーダ160及びビデオアダプタドライバ154が、ハイパーバイザ124の仮想ビデオアダプタ140と通信する仮想マシン128内で稼動する実施形態を示すが、本発明の実施形態は、非仮想マシンベースのコンピュータアーキテクチャを含む、いずれの遠隔のデスクトップサーバキテクチャに設置されてもよいことを理解されたい。更に、サーバのソフトウェア構成要素として表示エンコーダ160及び仮想ビデオアダプタ140を有するよりむしろ、代替の実施形態では、それらの一方又は両方の代わりにハードウェア構成要素を利用してもよい。同様に、代替の実施形態では、いずれの仮想ビデオアダプタも必要としない場合があることも理解されるものとする。代わりに.かかる代替の実施形態では、例えば、ビデオアダプタドライバ154が、フレームバッファ142及びFIFOキュー144自体を割り当て管理してもよい。同様に、FIFOキュー166を代替の実施形態において必要としない場合もあることも理解されたい。代わりに、かかる代替の実施形態では、表示エンコーダ160は例えば、それ自体の読み出しポインタを介して、ビデオアダプタドライバ154のFIFOキュー157と直接アクセスすることができる。本発明の精神に逸脱することなしに、本願に記述した他の様々なデータ構造及びバッファは、代替のシステム構成要素により割り当てられ、保持されることができることは、同様に理解されるものとする。例えば、図6のステップ600に詳細に説明したように、表示エンコーダ160を有して、二次フレームバッファ162を割り当てて保持し、メモリ参照をビデオアダプタドライバ154へ受け渡すよりはむしろ、代替の実施形態では、ビデオアダプタドライバ154が二次フレームバッファ162(及びエンコーダブリットマップデータ構造164)を割り当てて保持し、表示エンコーダ160へのメモリ参照アクセスを提供してもよい。加えて、本願に記述される通り、ビデオアダプタドライバ154により行われる機能性及びステップの中には、以前から存在する又は標準であるビデオアダプタドライバの別個の拡張部又は構成要素内に実装することができる(即ち、表示エンコーダ160は、以前から存在するビデオアダプタドライバ自体よりはむしろ、ビデオアダプタドライバのかかる別個の拡張部と通信してもよい)ことを理解されたい。同様に、代替の実施形態では、本願に記述した通り、本発明の精神を逸脱しない限り、システム構成要素間で交換されるデータの量及びタイプは様々であってよいか、又は既知の最適化技術を利用してもよいことを理解されたい。例えば、図9のステップ905で、表示エンコーダ160を有して、シーケンス番号をビデオアダプタドライバ154へ伝送するよりはむしろ、代替の実施形態では、ビデオアダプタドライバ154が、シーケンス番号を必要とせずに関連の描画プリミティブを表示エンコーダ160に提供することができるように、ステップ920の優先的な反復で表示エンコーダに提供されている前描画プリミティブを内部で追跡し続ける。加えて、図6のステップ660にあるエンコーダブリットマップデータ構造164として、ドライバブリットマップデータ構造156のコピーを提供するよりむしろ、代替の実施形態によって、ドライバブリットマップデータ構造156の関連する部分のみを、表示エンコーダ160に提供してもよいか、又はそうでなければドライバブリットマップデータ構造156のかかる関連部分を表示エンコーダ160に提供するために、代替のデータ構造を利用してもよい。同様に、代替の実施形態は、ビデオアダプタドライバ154にFIFOキュー157を有するのではなく、むしろビデオアダプタ140を介して、FIFOキュー144からのFIFOキュー入力を要求してもよい。同様に、表示エンコーダ160を有して、継続的にビデオアダプタドライバ154をポーリングするよりはむしろ(又は、ポーリングするのに加えて)、代替の実施形態において、ビデオアダプタドライバ154は、フレームバッファ142を更新していた描画プリミティブの受信を、表示エンコーダ160に通知するために、図5のステップ555の際に、表示エンコーダ160の中断を引き起こすことができる。このように、例えばフレームバッファ142に変わる予定がなければ、表示エンコーダ160は、継続的にビデオアダプタドライバ154へ要求を出す必要はない。
本願に記載した様々な実施形態は、コンピュータシステムに記憶されるデータに関与する、コンピュータに実装される様々な動作を採用してもよい。例えば、これらの動作は、必ずではないが、電気信号又は磁気信号の形態を取りうるが、それら信号又はそれら信号形状は記憶、転送、結合、又はそれ以外の動作を行うことができ、これら動作は通常、物理量の物理的処置を必要とする場合がある。更に、かかる操作はしばしば、生成、特定、決定、又は比較などの言葉で称される。本願に記述した動作はいずれも、本発明の1つ以上の実施形態の一部を形成し、有用なマシン動作である場合がある。加えて、本発明の1つ以上の実施形態もまた、これら動作を行うためのデバイス又は装置に関する。装置は、固有の必要とされる目的のために特別に構築されてもよいか、又はコンピュータに記憶されたコンピュータプログラムにより選択的に起動又は構成される、汎用コンピュータであってもよい。特に、様々な汎用マシンを本願の教示に従って書かれたコンピュータプログラムとともに使用する場合や、又は必要な動作を行うために、より特殊な装置を構築する方がより便利な場合もある。
本願に記述した様々な実施形態は、携帯用デバイス、マイクロプロセッサシステム、マイクロプロセッサベースの家電製品又はプログラム可能な家電製品、ミニコンピュータ、メインフレームコンピュータなど、他のコンピュータシステム構成とともに実施してもよい。
本発明の1つ以上の実施形態は、1つ以上のコンピュータプログラム、又は1つ以上のコンピュータで読み取り可能な媒体に搭載される1つ以上のコンピュータプログラムモジュールとして実装されてもよい。コンピュータで読み取り可能な媒体という用語は、その後コンピュータシステムに入力することが可能なデータを記憶することができる、任意のデータ記憶デバイスを指し、媒体をコンピュータで読み取ることを可能とする様式でコンピュータプログラムを具体化する、既存又は後に開発されるいずれの技術に基づいていてもよい。コンピュータで読み取り可能な媒体の例には、ハードドライブ、ネットワーク接続ストレージ(NAS)、読み取り専用メモリ、ランダムアクセスメモリ(例えば、フラッシュメモリデバイス)、CD(Compact Disc)、CD−ROM 、CD−R、又はCD−RW、DVD(Digital Versatile Disc)、磁気テープ、ならびにその他光学及び非光学データ記憶装置が挙げられる。コンピュータで読み取り可能な媒体はまた、コンピュータで読み取り可能なコードが分散的に記憶され実行されるように、ネットワーク接続コンピュータシステム上に分散されることもできる。
理解を明確にするために、本発明の1つ以上の実施形態をかなり詳細に説明したが、請求項の範囲内で一定の変更及び修正が可能であることは明らかであろう。従って、記述した実施形態は限定的ではなく例示的であるとみなされるべきであり、特許請求の範囲は本明細書で提供される詳細に限定されず、特許請求の範囲及びその均等物の内で修正することができる。特許請求の範囲では、特許請求の範囲において明記されていない限り、要素及び/又はステップは動作のいずれの特定の順序をも暗示するものではない。
加えて、記述した仮想化の方法では概して、仮想マシンが特定のハードウェアシステムに合致するインタフェースを提供すると仮定しているが、当業者は、記述した方法は、いずれの特定のハードウェアシステムにも直接対応していない仮想化と合わせて使用してもよいと認識しているであろう。様々な実施形態に従う仮想化システムは、主要な実施形態、主要でない実施形態、又はその2つの間で違いが曖昧になりがちな実施形態として実装され、全てそのように想定されている。更に、様々な仮想化動作は、ハードウェアで全体的に又は部分的に実装してもよい。例えば、ハードウェアの実装には、ディスクデータでないものも保護するために、記憶アクセス要求の修正用ルックアップテーブルを採用してもよい。
仮想化の度合いに関わらず、多くの修正、変更、追加、及び改良が可能である。従って、仮想化ソフトウェアは、仮想化機能を行うホスト、コンソール、又はゲストオペレーティングシステムの構成要素を含むことができる。本願で単一例として記述した構成要素、動作、又は構造に対して、複数の例を提供することが可能である。最後に、様々な構成要素、動作、及びデータ記憶の間の境界はいくらか恣意的であり、特定の動作は個別に示される構成との関連で示される。機能性の他の割り当ても想定され、本発明の範囲に含まれ得る。概して、例示的構成において別個の構成要素として表される構造及び機能性を、組み合わせた構造又は構成要素として実装することが可能である。同様に、単一構成要素として表される構造及び機能性を、別個の要素として実装することが可能である。これら及び他の修正、変更、追加、及び改良は、添付の特許請求の範囲内に含まれ得る。

Claims (20)

  1. 表示データを記憶する一次フレームバッファと、遠隔のクライアント端末に表示データを伝送するために二次フレームバッファを使用する表示エンコーダと、を有するサーバにおいて、前記遠隔のクライアント端末に伝送される前記表示データの量を減少させる方法であって、
    描画プリミティブを前記一次フレームバッファ内で実行するとすぐに、完成した描画プリミティブの一覧を含むキューを更新するステップと、
    前記二次フレームバッファの更新された表示データに対応する描画プリミティブの一覧に対する、前記表示エンコーダからの要求を受信するステップと、
    前記キューから描画プリミティブの前記要求された一覧を抽出するステップと、
    前記表示エンコーダに描画プリミティブの前記要求された一覧を提供するステップであって、前記表示エンコーダは、帯域量を減らすように、前記描画プリミティブに対応する前記二次フレームバッファの更新された表示データ及び前記要求された一覧の中の描画プリミティブのいずれかを、前記遠隔のクライアント端末に、選択的に伝送することができるステップと、
    を含む、方法。
  2. 前記キューから描画プリミティブの前記要求された一覧の各入力を消去するステップを更に含む、請求項1記載の方法。
  3. 前記要求は、前記二次フレームバッファの表示データを更新するための、最後の描画プリミティブに対応するシーケンス番号を含む、請求項1記載の方法。
  4. 前記キューの各入力は、シーケンス番号及び描画プリミティブを含む、請求項3記載の方法。
  5. 前記抽出するステップは、最大で前記要求の前記シーケンス番号以下のシーケンス番号を含む前記キューの各入力を特定するステップを更に含む、請求項4記載の方法。
  6. 前記一次フレームバッファは仮想ビデオアダプタにより割り当てられるバッファであり、前記キューは前記仮想ビデオアダプタと通信するビデオアダプタドライバにより割り当てられる、請求項1記載の方法。
  7. 前記ビデオアダプタドライバは、前記サーバ上にインスタンスを作成した仮想マシンのゲストオペレーティングシステムの構成要素である、請求項6記載の方法。
  8. 前記キューの更新後すぐに、前記表示エンコーダへの割り込みを開始するステップを更に含む、請求項1記載の方法。
  9. 表示データを記憶する一次フレームバッファと、遠隔のクライアント端末に表示データを伝送するために二次フレームバッファを使用する表示エンコーダとを有するサーバの処理ユニットによって実行される際に、
    描画プリミティブを前記一次フレームバッファ内で実行するとすぐに、完成した描画プリミティブの一覧を含むキューを更新するステップと、
    前記二次フレームバッファの更新された表示データに対応する描画プリミティブの一覧に対する、前記表示エンコーダからの要求を受信するステップと、
    前記キューから描画プリミティブの前記要求された一覧を抽出するステップと、
    前記表示エンコーダに描画プリミティブの前記要求された一覧を提供するステップであって、前記表示エンコーダは、帯域量を減らすように、前記描画プリミティブに対応する前記二次フレームバッファの更新された表示データ及び前記要求された一覧の中の描画プリミティブのいずれかを、前記遠隔のクライアント端末に、選択的に伝送することができるステップと、を行うことによって、前記処理ユニットに、前記遠隔のクライアント端末に伝送される表示データの量を減少させる命令を含む、コンピュータで読み取り可能な媒体。
  10. 前記処理ユニットは、前記キューから描画プリミティブの前記要求された一覧を除去するステップを更に行う、請求項9記載のコンピュータで読み取り可能な媒体。
  11. 前記要求は、前記二次フレームバッファの表示データを更新するための、最後の描画プリミティブに対応するシーケンス番号を含む、請求項9記載のコンピュータで読み取り可能な媒体。
  12. 前記キューの各入力は、シーケンス番号及び描画プリミティブを含む、請求項11記載のコンピュータで読み取り可能な媒体。
  13. 前記抽出するステップは、最大で前記要求の前記シーケンス番号以下のシーケンス番号を含む前記キューの前記各入力を特定するステップを更に含む、請求項12記載のコンピュータで読み取り可能な媒体。
  14. 前記一次フレームバッファは仮想ビデオアダプタにより割り当てられるバッファであり、前記キューは前記仮想ビデオアダプタと通信するビデオアダプタドライバにより割り当てられる、請求項9記載のコンピュータで読み取り可能な媒体。
  15. 前記ビデオアダプタドライバは、前記サーバ上にインスタンスを作成した仮想マシンのゲストオペレーティングシステムの構成要素である、請求項14記載のコンピュータで読み取り可能な媒体。
  16. 前記処理ユニットは、前記キューの更新後すぐに、前記表示エンコーダへの割り込みを開始するステップを更に行う、請求項9記載のコンピュータで読み取り可能な媒体。
  17. 遠隔のクライアント端末へ伝送される表示データの量を減少させるように構成されるコンピュータシステムであって、
    (1)表示データを記憶する一次フレームバッファと、(2)描画プリミティブのキューを保持するビデオアダプタドライバであって、前記キューの各入力はシーケンス番号及び描画プリミティブを含む、ビデオアダプタドライバと、(3)表示データを符号化し、前記遠隔のクライアント端末へ伝送する表示エンコーダと、(4)前記表示エンコーダにアクセス可能な二次フレームバッファと、を含む、システムメモリと、
    前記システムメモリに連結するプロセッサであって、前記プロセッサは、(1)描画プリミティブを前記一次フレームバッファで実行するとすぐに、前記キューを更新するステップと、(2)前記二次フレームバッファの更新された表示データに対応する描画プリミティブの一覧に対する、前記表示エンコーダからの要求を受信するステップと、(3)前記キューから描画プリミティブの前記要求された一覧を抽出するステップと、(4)前記表示エンコーダに描画プリミティブの前記要求された一覧を提供するステップであって、前記表示エンコーダは、帯域量を減らすように、前記描画プリミティブに対応する前記二次フレームバッファの更新された表示データ及び前記要求された一覧の中の描画プリミティブのいずれかを、前記遠隔のクライアント端末に、選択的に伝送することができる、ステップと、を行うように前記ビデオアダプタドライバを実行するように構成される、プロセッサと
    を含む、コンピュータシステム。
  18. 前記プロセッサは、前記キューから描画プリミティブの前記要求された一覧を除去するステップを更に行う、請求項17記載のコンピュータシステム。
  19. 前記要求は、前記二次フレームバッファの表示データを更新するための、最後の描画プリミティブに対応するシーケンス番号を含む、請求項17記載のコンピュータシステム。
  20. 前記抽出するステップは、最大で前記要求の前記シーケンス番号以下のシーケンス番号を含む前記キューの前記各入力を特定するステップを更に含む、請求項19記載のコンピュータシステム。
JP2010094793A 2009-04-23 2010-04-16 遠隔の表示部へ選択的に伝送するために描画プリミティブを特定する方法及びシステム Active JP5279754B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/428,949 2009-04-23
US12/428,949 US8902242B2 (en) 2009-04-23 2009-04-23 Method and system for identifying drawing primitives for selective transmission to a remote display

Publications (2)

Publication Number Publication Date
JP2010282609A JP2010282609A (ja) 2010-12-16
JP5279754B2 true JP5279754B2 (ja) 2013-09-04

Family

ID=42671740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010094793A Active JP5279754B2 (ja) 2009-04-23 2010-04-16 遠隔の表示部へ選択的に伝送するために描画プリミティブを特定する方法及びシステム

Country Status (8)

Country Link
US (6) US8902242B2 (ja)
EP (1) EP2244182B1 (ja)
JP (1) JP5279754B2 (ja)
KR (1) KR101087956B1 (ja)
CN (1) CN101873308B (ja)
AU (1) AU2010201049B2 (ja)
CA (1) CA2697122C (ja)
RU (1) RU2424559C1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8902242B2 (en) 2009-04-23 2014-12-02 Vmware, Inc. Method and system for identifying drawing primitives for selective transmission to a remote display
JP5223807B2 (ja) * 2009-07-24 2013-06-26 カシオ計算機株式会社 サーバ装置、サーバベース・コンピューティング・システム、およびプログラム
US8429678B1 (en) * 2010-04-20 2013-04-23 American Megatrends, Inc. Redirecting video to a remote client using a service processor
CN102014301A (zh) * 2010-11-26 2011-04-13 优视科技有限公司 一种视频播放方法、系统及服务器
EP2563038A1 (en) 2011-08-26 2013-02-27 Streamtainment Systems OÜ Method for transmitting video signals from an application on a server over an IP network to a client device
KR20130062463A (ko) 2011-11-25 2013-06-13 한국전자통신연구원 다중 사용자 및 멀티 플랫폼 지원을 위한 게임 스트리밍 시스템 및 방법
JP5821610B2 (ja) 2011-12-20 2015-11-24 富士通株式会社 情報処理装置、情報処理方法及びプログラム
US9372737B2 (en) * 2012-02-08 2016-06-21 Vmware, Inc. Video stream management for remote graphical user interfaces
US10430036B2 (en) * 2012-03-14 2019-10-01 Tivo Solutions Inc. Remotely configuring windows displayed on a display device
US9277237B2 (en) * 2012-07-30 2016-03-01 Vmware, Inc. User interface remoting through video encoding techniques
CN103105131B (zh) * 2013-01-24 2015-08-19 东莞市嘉腾仪器仪表有限公司 一种影像测量仪显示图像的方法
US9235905B2 (en) * 2013-03-13 2016-01-12 Ologn Technologies Ag Efficient screen image transfer
US9460481B2 (en) 2013-03-25 2016-10-04 Vmware, Inc. Systems and methods for processing desktop graphics for remote display
US11412059B2 (en) * 2016-09-30 2022-08-09 Intel Corporation Technologies for paravirtual network device queue and memory management
US10592417B2 (en) 2017-06-03 2020-03-17 Vmware, Inc. Video redirection in virtual desktop environments
CN108762894A (zh) * 2018-06-21 2018-11-06 郑州云海信息技术有限公司 一种虚拟机显示方法和装置
CN113504882B (zh) * 2021-04-30 2024-02-06 惠州华阳通用电子有限公司 一种多系统多区域显示方法

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63131226A (ja) * 1986-11-20 1988-06-03 Yokogawa Electric Corp 画像処理装置
US5043919A (en) * 1988-12-19 1991-08-27 International Business Machines Corporation Method of and system for updating a display unit
US6370574B1 (en) * 1996-05-31 2002-04-09 Witness Systems, Inc. Method and apparatus for simultaneously monitoring computer user screen and telephone activity from a remote location
JP3280306B2 (ja) * 1998-04-28 2002-05-13 インターナショナル・ビジネス・マシーンズ・コーポレーション 画像情報送信方法、画像情報更新方法、送信装置及び更新装置
US6380935B1 (en) * 1999-03-17 2002-04-30 Nvidia Corporation circuit and method for processing render commands in a tile-based graphics system
JP4083996B2 (ja) * 2001-04-05 2008-04-30 インターナショナル・ビジネス・マシーンズ・コーポレーション 端末との間で有線接続経路および無線接続経路を介して通信を行うシステム、演算処理装置、無線接続端末、無線接続端末に対するデータ転送方法、プログラム、および記憶媒体
JP2002351651A (ja) * 2001-05-25 2002-12-06 Fuji Xerox Co Ltd 情報表示方法および装置
US7038696B2 (en) * 2002-01-04 2006-05-02 Hewlett-Packard Development Company Method and apparatus for implementing color graphics on a remote computer
US7386324B2 (en) * 2002-04-17 2008-06-10 Lenovo (Singapore) Pte. Ltd. System and method for dual path terminal connection
US7447997B2 (en) 2002-05-30 2008-11-04 Microsoft Corporation Reducing information transfer in screen capture series
US20050000256A1 (en) * 2003-07-02 2005-01-06 Yeager Larry R. Theft deterrent device
JP2005228227A (ja) 2004-02-16 2005-08-25 Nippon Telegr & Teleph Corp <Ntt> シンクライアントシステム及びその通信方法
JP2005284694A (ja) 2004-03-30 2005-10-13 Fujitsu Ltd 3次元モデルデータ提供プログラム、3次元モデルデータ提供サーバ、及び3次元モデルデータ転送方法
WO2005114375A1 (en) * 2004-05-21 2005-12-01 Computer Associates Think, Inc. Systems and methods for tracking screen updates
US7212174B2 (en) * 2004-06-24 2007-05-01 International Business Machines Corporation Systems and methods for sharing application data in a networked computing environment
US7899864B2 (en) * 2005-11-01 2011-03-01 Microsoft Corporation Multi-user terminal services accelerator
WO2007057053A1 (en) 2005-11-21 2007-05-24 Agilent Technologies, Inc. Conditional updating of image data in a memory buffer
US20070174429A1 (en) * 2006-01-24 2007-07-26 Citrix Systems, Inc. Methods and servers for establishing a connection between a client system and a virtual machine hosting a requested computing environment
JP2007219626A (ja) 2006-02-14 2007-08-30 Casio Comput Co Ltd コンピュータシステムのサーバ装置、サーバ制御プログラム、およびそのクライアント装置
GB0707276D0 (en) * 2007-04-16 2007-05-23 Adventiq Ltd Video data transmission
JP4946667B2 (ja) 2007-07-02 2012-06-06 カシオ計算機株式会社 サーバ装置およびプログラム
US7944451B2 (en) 2007-07-31 2011-05-17 Hewlett-Packard Development Company, L.P. Providing pixels from an update buffer
US8902242B2 (en) 2009-04-23 2014-12-02 Vmware, Inc. Method and system for identifying drawing primitives for selective transmission to a remote display
US8902742B2 (en) 2012-10-08 2014-12-02 Fujitsu Limited Method and system for optimized access of a physical random access channel

Also Published As

Publication number Publication date
US10067732B2 (en) 2018-09-04
RU2424559C1 (ru) 2011-07-20
EP2244182A3 (en) 2011-06-08
KR101087956B1 (ko) 2011-11-30
US20190018639A1 (en) 2019-01-17
CA2697122A1 (en) 2010-10-23
US10572214B2 (en) 2020-02-25
CA2697122C (en) 2013-12-31
KR20100117044A (ko) 2010-11-02
US20100271381A1 (en) 2010-10-28
AU2010201049A1 (en) 2010-11-11
US8902242B2 (en) 2014-12-02
US11397553B2 (en) 2022-07-26
CN101873308B (zh) 2013-04-10
US9448760B2 (en) 2016-09-20
US20150301786A1 (en) 2015-10-22
US11003412B2 (en) 2021-05-11
JP2010282609A (ja) 2010-12-16
EP2244182B1 (en) 2020-03-11
US20200192624A1 (en) 2020-06-18
US20210247948A1 (en) 2021-08-12
AU2010201049B2 (en) 2012-02-09
CN101873308A (zh) 2010-10-27
EP2244182A2 (en) 2010-10-27
US20160378423A1 (en) 2016-12-29

Similar Documents

Publication Publication Date Title
JP5279754B2 (ja) 遠隔の表示部へ選択的に伝送するために描画プリミティブを特定する方法及びシステム
JP5027899B2 (ja) 遠隔の表示部へ伝送するためにフレームバッファをコピーする方法及びシステム
US10303497B2 (en) Hybrid software and GPU encoding for UI remoting
CN109522070B (zh) 显示处理方法和系统
US20100141678A1 (en) Command remoting
US9460481B2 (en) Systems and methods for processing desktop graphics for remote display
US20160366424A1 (en) Multiple Bit Rate Video Decoding
US11061571B1 (en) Techniques for efficiently organizing and accessing compressible data
JPWO2018173300A1 (ja) I/o制御方法およびi/o制御システム
US20210019259A1 (en) Reduced downtime for a virtual machine content-based read cache

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130122

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130417

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130521

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5279754

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250