JP5720211B2 - 情報処理装置、情報処理方法および情報処理プログラム - Google Patents
情報処理装置、情報処理方法および情報処理プログラム Download PDFInfo
- Publication number
- JP5720211B2 JP5720211B2 JP2010269899A JP2010269899A JP5720211B2 JP 5720211 B2 JP5720211 B2 JP 5720211B2 JP 2010269899 A JP2010269899 A JP 2010269899A JP 2010269899 A JP2010269899 A JP 2010269899A JP 5720211 B2 JP5720211 B2 JP 5720211B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- image
- region
- displayed
- update
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
- G06F3/1462—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay with means for detecting differences between the image stored in the host and the images displayed on the remote displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/507—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/02—Handling of images in compressed format, e.g. JPEG, MPEG
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/12—Frame memory handling
- G09G2360/127—Updating a frame memory using a transfer of data from a source area to a destination area
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2370/00—Aspects of data communication
- G09G2370/02—Networking aspects
- G09G2370/022—Centralised management of display operation, e.g. in a server instead of locally
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Transfer Between Computers (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
記憶部は、動画圧縮して送信した第1の領域を示す情報を記憶する。
判断部は、第1の領域と第2の領域との重複関係に基づいて、第2の領域の画像を、第1の領域の動画と関連して送信するか否かを判断する。
まず、実施の形態の情報処理装置について説明し、その後、実施の形態をより具体的に説明する。
図1は、第1の実施の形態の情報処理装置の概要を示す図である。
実施の形態の情報処理装置(コンピュータ)1は、クライアント装置2が有する表示部2aへの画像の表示要求に際し、画像を表示する位置をクライアント装置2に送信する機能を有している。
記憶部1aは、動画圧縮して送信した第1の領域を示す情報を記憶する。図1では、一例として表示部2aに表示された画像を所定のフレーム間にて比較した結果、領域3が、動画圧縮して送信した第1の領域であることを記憶している。このとき、記憶部1aは、領域3を識別する識別子「S1」に領域3の表示部2aでの表示箇所を識別する情報(図1では座標x1、座標y1、幅w1、高さh1)を関連づけて記憶している。なお、座標x1、座標y1は、例えば、表示部2aの左上を原点(0,0)としたときのxy座標であり、幅w1は、領域3の図1中左右方向の長さであり、高さh1は、領域3の図1中上下方向の長さである。
図1の表示部2aには、クライアント装置2のユーザが領域3に表示されている画像を領域4に移動させた様子を示している。図1の点線で囲った矩形は、領域3と同じ大きさの矩形を示している。このとき、識別部1bは、領域4を第2の領域に特定し、領域4を識別する情報(図1では座標x2、座標y2、幅w2、高さh2)を識別する。
例えば、情報処理装置1には、幅と高さは第1の領域よりも第2の領域の方が小さいが、第1の領域に表示していた動画ストリームを第2の領域に継続利用した方がデータ通信量が少なくなると予想される組み合わせを探す機能、および、組み合わせが見つかれば継続利用するよう設定したうえで継続利用した方がデータ通信量が少なくなるフレーム数(n)を算出する機能を含ませることができる。さらに、情報処理装置1には、継続利用した動画ストリームの中で送信した送信フレーム数をカウントしておき、送信フレーム数がnを超えた場合は、第1の領域のサイズに適した動画ストリームを作成し、その動画ストリームの中でデータ送信を行うように変更する機能を含ませることができる。
なお、前述した各機能については後述する第3の実施の形態にて詳細に説明する。
また、情報処理装置1には、幅または高さが第1の領域よりも第2の領域の方が大きい組み合わせにおいても動画ストリームを継続利用した方がデータ通信量が少なくなると予想される組み合わせを探す機能、および、組み合わせが見つかれば動画ストリームを継続利用する機能を含ませることができる。さらに、第2の領域の中で第1の領域だけではカバーできない領域については、新しく動画ストリームを作成し、その動画ストリームの中でデータ送信を行う機能、また、継続利用したストリームの中でデータを送信する期間が一定時間を超えた場合に、第1の領域のサイズに適した動画ストリームを作成し、その動画ストリームの中でデータ送信を行うように変更する機能を含ませることができる。
なお、前述した各機能については後述する第4の実施の形態にて詳細に説明する。
なお、識別部1b、判断部1c、送信部1d、および更新頻度判別部1fは、情報処理装置1が有するCPU(Central Processing Unit)が備える機能により実現することができる。また、記憶部1aおよび画像記憶部1eは、情報処理装置1が有するRAM(Random Access Memory)やハードディスクドライブ(HDD:Hard Disk Drive)等が備えるデータ記憶領域により実現することができる。
<第2の実施の形態>
図2は、第2の実施の形態の情報処理システムを示す図である。
これらサーバ装置10およびクライアント装置20は、所定のネットワーク(Network)50を介して、相互に通信可能に接続される。かかるネットワーク50には、有線または無線を問わず、インターネット(Internet)、LAN(Local Area Network)やVPN(Virtual Private Network)等の任意の種類の通信網を採用できる。なお、サーバ装置10およびクライアント装置20間の通信プロトコル(Protocol)には、一例として、VNCにおけるRFBプロトコルを採用する場合を想定する。
クライアント装置20は、サーバ装置10によるリモート画面制御サービスの提供を受ける側のコンピュータである。かかるクライアント装置20の一例としては、パーソナルコンピュータ(Personal Computer)等固定端末の他、携帯電話機、PHS(Personal Handyphone System)やPDA(Personal Digital Assistant)等の移動体端末を適用することもできる。
表示デバイス204aは、各種の情報、例えばサーバ装置10から送信されたデスクトップ画面等を表示するデバイスであり、一例としては、モニタ(monitor)、ディスプレイ(display)やタッチパネル(touch panel)等が挙げられる。図2では、携帯端末型のクライアント装置20を例示しており、表示デバイス204aは、クライアント装置20に搭載されている。
図3は、第2の実施の形態のサーバ装置およびクライアント装置の機能を示すブロック図である。
サーバ装置10は、OS実行制御部11aと、アプリ実行制御部11bと、グラフィックドライバ(Graphic Driver)12と、フレームバッファ(Frame Buffer)13と、リモート画面制御部14とを有している。なお、図3の例では、図3に示した機能部以外にも既知のコンピュータが有する各種の機能部、例えば各種の入力デバイスや表示デバイス等の機能を有するものとする。
このリモート画面制御部14は、操作情報取得部14aと、画面生成部14bと、更新頻度判別部14cと、更新領域識別部14dと、領域管理データ格納部14eと、エンコーダ141f、142f、143fと、第1の送信部14gと、第2の送信部14hと移動検出部14iと、前回領域管理データ格納部14jとを有する。なお、本実施の形態では、3つのエンコーダ141f、142f、143fを有する場合を例示するが、エンコーダの数は3つに限定されない。
図4は、更新頻度判別用のマップ30を示している。図4の円で囲った部分は、メッシュ31の詳細を示している。図4では、更新頻度判別部14cがマップ30を占める画素のうち8画素×8画素のブロックを1つのメッシュ31として分割する場合を想定している。このため、1つのメッシュ31には64個の画素32が含まれている。
ここで、図5(a)に示す更新頻度判別用のマップ30の9つのメッシュ31、31、・・・それぞれに図示した数字は、更新矩形31aが展開された時点におけるメッシュ31の更新回数を示す。また、図5(b)マップ30のメッシュ31内に図示した数字は、更新矩形31bが展開された時点におけるメッシュ31の更新回数を示す。さらに、図5(c)のマップ30のメッシュ31内に図示した数字は、作業用の内部メモリに蓄積した更新矩形が全て展開された時点におけるメッシュ31の更新回数を示す。なお、図5(a)〜図5(c)において数字が図示されていないメッシュ31は、更新回数がゼロであるものとする。
そして、更新頻度判別部14cは、作業用の内部メモリに蓄積した更新矩形を全てマップ30に展開し終えた場合に、所定の期間における更新回数、すなわち更新頻度が閾値を超えるメッシュ31を取得する。図5(c)の例で言えば、閾値を「4」としたとき、網掛け部分のメッシュ31が取得されることになる。かかる閾値は、その値を高く設定するほどデスクトップ画面で頻繁に更新されている部分を抽出でき、その部分をエンコーダ141f〜143fによりエンコードすることができる。なお、上記の「閾値」は、サーバ側リモート画面制御用アプリの開発者が段階的に設定した値をエンドユーザに選択させたり、また、エンドユーザが値を直接設定することができる。
更新領域識別部14dは、クライアント装置20に表示されるデスクトップ画面のうち高頻度で更新される領域を高頻度更新領域に設定する。
図6に示すように、更新領域識別部14dは、補正前のメッシュ連結体51に補間領域52を足し合わせることにより、メッシュ連結体51を矩形53に補正する。この段階では、後述する矩形の合成が完了しておらず、矩形53が未だ高頻度更新領域と確定していないので、補正後の矩形53を「高頻度更新領域の候補」と呼ぶこととする。
図7に示すように、更新領域識別部14dは、高頻度更新領域の候補61aおよび高頻度更新領域の候補61bに補間領域62を足し合わせることにより、高頻度更新領域の候補61aおよび高頻度更新領域の候補61bを含む合成体63を作成する。そして、更新領域識別部14dは、このようにして得た合成体63を高頻度更新領域に設定する。
図8(a)に示すように、フレームバッファ13に描画されたデスクトップ画面70Aには、ブラウザ(browser)画面71および動画再生画面72が含まれる。このデスクトップ画面70Aから経時的な変化を追った場合には、図8(b)の画面70Bに示すように、静止画であるブラウザ画面71の更新矩形は検出されず、マウスの移動軌跡73およびアプリケーションによる動画再生領域74に関する更新矩形が検出される。
また、更新領域識別部14dは、必要に応じて領域管理データをクライアント装置20に送信する。なお、ここでは、高頻度更新領域の位置を特定する点として左上の頂点の座標を採用する場合を説明したが、他の頂点を採用することとしてもかまわない。
本実施の形態では、領域管理データ格納部14eには、情報がテーブル化して記憶されている。領域管理テーブル141には、領域ID、x、y、w、h、エンコーダの欄が設けられている。横方向に並べられた情報同士が互いに関連づけられている。
xの欄には、高頻度更新領域の左上の頂点のx座標が格納される。
yの欄には、高頻度更新領域の左上の頂点のy座標が格納される。
hの欄には、高頻度更新領域の高さの値(単位:ピクセル)が格納される。
エンコーダの欄には、x、y、w、hの欄に格納された情報により特定される高頻度更新領域に表示させる画像をエンコードするエンコーダを識別するIDが格納される。
本実施の形態では、前回領域管理データ格納部14jには、情報がテーブル化して記憶されている。前回領域管理テーブル142には、領域ID、x、y、w、h、エンコーダ、継続利用先領域ID、nxおよびnyの欄が設けられている。横方向に並べられた情報同士が互いに関連づけられている。
xの欄には、高頻度更新領域の左上の頂点のx座標が格納される。
yの欄には、高頻度更新領域の左上の頂点のy座標が格納される。
hの欄には、高頻度更新領域の高さの値が格納される。
エンコーダの欄には、x、y、w、hの欄に格納された情報により特定される高頻度更新領域に表示させる動画ストリームをエンコードするエンコーダを識別するIDが格納される。
nyの欄には、移動先の高頻度更新領域の左上の頂点のy座標が格納される。
例えば、図9の1行目のデータは、領域を識別するIDとして1が割り当てられた座標(0,0)の位置から幅200ピクセル、高さ200ピクセルの領域が高頻度更新領域として登録されており、エンコーダ141fを識別する情報としてID:0x012fafaが割り当てられたことを示している。また、新しく設定された高頻度更新領域の中で領域ID=1である高頻度更新領域にエンコーダを継続して利用させることが決まっていることを示しており、その際表示位置が(50,50)の位置に変わることを示している。2番目と3番目のデータも同様に領域が設定されたことを示しているが、2番目のデータは新しく設定された高頻度更新領域ではエンコーダを継続利用する予定がなく、エンコーダを破棄する必要があることを示している。
表示デバイス204aには、領域A1と領域B1と領域C1とが図示されている。
領域A1は、前回領域位置識別データにより特定される高頻度更新領域である。領域B1は、今回新たに設定された高頻度更新領域の領域位置識別データにより特定される領域である。領域C1は、領域A1のうち領域B1に重複しない領域を抽出し、領域B1が領域A1に全て含まれるように領域A1を最小限移動させたときの領域である。なお、領域C1は、破線で表現されている。
(パターン2)Sa=SbかつSx>0
言い換えると、パターン1は、今回の動画ストリームの表示面積が前回の動画ストリームの表示面積より小さく、かつ、前回の高頻度更新領域に割り当てられていた動画ストリームのエンコードを少なくとも1回行った時点では、今回の高頻度更新領域の動画ストリームを新たに生成したときのデータ量より小さくなる場合である。
n=(Sb+Sx−Sa)・(EI−EP)/(Sa−Sb)EP・・・(1)
ここで、EIは、高頻度更新領域を圧縮する動画コーデックのフレーム内圧縮の圧縮率(例えば1/10)を示している。EPは、フレーム間圧縮の圧縮率(例:1/100)を示している。
高頻度更新領域を継続利用したときに、n回エンコードした場合のデータ量は、次式(2)で表される。
ここで、SxEP+(Sa−Sx)EIは、1枚目のフレームのデータ量を示し、(n−1)SaEPは、2枚目以降のフレームのデータ量を示している。
SbEI+(n−1)SbEP・・・(3)
ここでSbEIは、1枚目のフレームのデータ量を示し、(n−1)SbEPは、2枚目以降のフレームのデータ量を示している。
ここで、式(1)に示すnは、領域Bを領域Aの移動として扱ってnフレームの画面を送信した場合のデータ量と、領域Bを領域Aの移動として取り扱わずにnフレームの画面を送信した場合のデータ量が等しくなるフレーム数として算出している。
ここで算出したn以下のフレーム数の画面を送信する場合は、領域Bを領域Aの移動として扱った方が、データ量が少なくなると予想される。例えばエンコード回数nが1以上(例えば「2」)であれば、2回エンコードしたときに式(2)と式(3)との値が同じになる。すなわち、少なくとも1回エンコードした時点では、式(2)データ量の方が式(3)のデータ量よりも小さくなるので、現在割り当てられている動画ストリームを今回の高頻度更新領域に割り当てる方が、データ量が小さいと判断することができる。
<クライアント装置の機能>
クライアント装置20は、リモート画面制御部21を有している。なお、図3の例では、図3に示した機能部以外にも既知のコンピュータが有する各種の機能部、例えば音声出力部等の機能を有するものとする。
本実施の形態では、領域管理データ格納部21hは、情報をテーブル化して記憶している。
領域IDの欄には、領域を識別するIDが格納される。
デコーダの欄には、取得した領域管理データに含まれるエンコーダ141f、142f、143fを識別するIDにより特定される動画ストリームをデコードするデコーダ(動画伸長コーデック)を識別するIDが格納される。
図14は、サーバ装置の全体処理を示すフローチャートである。
この画像送信処理は、サーバ装置10により実行される処理であり、フレームバッファ13にビットマップデータが描画された場合に起動する。
[ステップS6] 更新領域識別部14dは、更新頻度判別部14cが取得したメッシュ31のうち、更新頻度が閾値を超えるメッシュ31が存在するか否かを判断する。更新頻度が閾値を超えるメッシュ31が存在しない場合(ステップS6のNo)、高頻度更新領域がデスクトップ画面に存在しないので、ステップS11に遷移する。一方、更新頻度が閾値を超えるメッシュ31が存在する場合(ステップS6のYes)、ステップS7に遷移する。
[ステップS8] 更新領域識別部14dは、補正後の矩形、すなわち高頻度更新領域の候補が複数存在か否かを判断する。高頻度更新領域の候補が複数存在する場合(ステップS8のYes)、ステップS9に遷移する。高頻度更新領域の候補が複数存在しない場合(ステップS8のNo)、ステップS10に遷移する。
[ステップS11] 更新領域識別部14dは、画像送信処理を実行する。なお、画像送信処理については後に詳述する。継続利用中止処理が終了すると、全体処理を終了する。
次に、ステップS10の移動検出処理を詳しく説明する。
図15は、第2の実施の形態のサーバ装置が行う移動検出処理を示すフローチャートである。図15には更新領域識別部14dが新たに高頻度更新領域を設定した際に、前回の高頻度更新領域と比較し、高頻度更新領域の移動を検出する手順を図示してある。
[ステップS22] 更新領域識別部14dは、高頻度更新領域の領域管理データを移動検出部14iに送り、高頻度更新領域の移動を検出するよう依頼する。
以下、ステップS25にて抽出した前回領域管理データにより特定される高頻度更新領域を「領域A」と言う。
[ステップS33] 移動検出部14iは、ステップS32で算出したnが1以上であるか否か判断する。nが1より小さい場合(ステップS33のNo)、ステップS26に戻る。nが1以上の場合(ステップS33のYes)、ステップS35に遷移する。
次に、ステップS24の管理データ反映処理を詳しく説明する。
図16は、第2の実施の形態のデータ反映処理を示すフローチャートである。
[ステップS24g] 移動検出部14iは、前回領域管理データDに対応するnx,nyの欄に値が格納されているか否かを判断する。nx,nyの欄に値が格納されていない場合(ステップS24gのNo)、ステップS24aに戻る。nx,nyの欄に値が格納されている場合(ステップS24gのYes)、ステップS24hに遷移する。
次に、ステップS11の画像送信処理を説明する。
図17は、第2の実施の形態の画像送信処理を示すフローチャートである。
[ステップS42] 更新領域識別部14dは、画面生成部14bにより生成された更新矩形が、領域管理データ格納部14eに格納されたいずれかの領域管理データ、すなわち生成された更新矩形が、第2の送信部14hにより動画ストリームを送信中のいずれかの領域に含まれるか否かを判断する。更新矩形が高頻度更新領域に含まれる場合(ステップS42のYes)、ステップS43に遷移する。更新矩形が高頻度更新領域に含まれない場合(ステップS42のNo)、ステップS46に遷移する。
[ステップS46] 第1の送信部14gは、更新矩形の画像および属性情報をクライアント装置20に送信する。その後、画像送信処理を終了する。
図18は、第2の実施の形態のデータ反映処理の具体例を示す図である。
図示の例では、前回の高頻度更新領域と新しい高頻度更新領域から継続利用可能な高頻度更新領域が抽出され、前回領域管理テーブル142の継続利用先領域ID、nx、nyの欄に、継続利用可能な高頻度更新領域の位置を特定する座標が記録されている。具体的には、前回領域管理テーブル142の領域ID=1の欄の前回領域管理データは、継続利用先領域ID=1であるため、前回領域管理データが、新しい高頻度更新領域の領域ID=1で継続利用されることが決まっている。また、nx、nyの欄には、それぞれ50が格納されているため、座標(0,0)から座標(50,50)への移動が必要であることを示している。
領域IDが「3」の欄の前回領域管理データは、継続利用先領域ID=2であるため、新しい高頻度更新領域の領域ID=2で継続利用されることが決まっている。また、nx、nyの欄には、値が格納されていないため、座標の移動は不要であることを示している。
次に、クライアント装置20が行う移動検出処理を説明する。
図19にはクライアント装置20が第2の受信部21dから新しく画像データ(動画データ)を受信した際に、受信した画像データを領域管理データ格納部21hに格納されている領域管理データの内容と比較し、高頻度更新領域の移動を検出する手順を図示してある。
次に、第3の実施の形態の情報処理システムについて説明する。
以下、第3の実施の形態の情報処理システムについて、前述した第2の実施の形態との相違点を中心に説明し、同様の事項については、その説明を省略する。
第2の実施の形態に示した情報処理システム5は、高頻度更新領域の移動を検知し、継続利用を行うと、その後その領域が頻繁に更新され続け、高頻度更新領域として処理され続けると、高頻度更新領域も継続利用された状態が続くことになる。この場合、例えば図15のステップS32で算出したnの値によっては、継続利用することでデータ通信量が増加する場合がある。例えば、高頻度更新領域の継続利用が決定し、nが5であることが算出された場合に、その高頻度更新領域が10回変更された場合、5回目までは継続利用する方がデータ通信量は少ないが、6回目以降は継続利用した方がデータ通信量が大きくなってしまう。
第3の実施の形態の領域管理テーブル143は、領域管理テーブル141と比較してn、エンコード回数、xo、yo、wo、hoの欄がさらに追加されている。
エンコード回数の欄には、当該レコードの高頻度更新領域を継続利用する際にエンコードを実施した回数が格納されている。図示の例では1回エンコード済みである。
次に、第3の実施の形態のサーバ装置10が行う移動検出処理を説明する。
図21にはサーバ装置10が新しく高頻度更新領域を検出した際に、前回検出した高頻度更新領域と比較し、高頻度更新領域の移動を検出する手順を図示してある。ステップS24a〜S24fおよびステップS24g〜24iの処理は第2の実施の形態と同様の処理であるため、説明は省略する。
次に、第3の実施の形態の画像送信処理を説明する。
図22にはサーバ装置10が新しく更新領域を検出した際に、高頻度更新領域の継続利用を中止するまでの手順を図示してある。ステップS41〜S44、S46の処理は第2の実施の形態と同様の処理であるため、説明は省略する。
[ステップS47b] 通知を受けた移動検出部14iは、領域管理テーブル143を参照し、エンコードが完了した領域管理データのnの欄に値が設定されているか否か判断する。値が設定されている場合(ステップS47bのYes)、ステップS47cに遷移する。値が設定されていない場合(ステップS47bのNo)、画像送信処理を終了する。
この第3の実施の形態の情報処理システムによれば、第2の実施の形態の情報処理システムと同様の効果が得られる。
次に、第4の実施の形態の情報処理システムについて説明する。
以下、第4の実施の形態の情報処理システムについて、前述した第2の実施の形態との相違点を中心に説明し、同様の事項については、その説明を省略する。
図23(a)は、表示デバイス204aに表示された古い高頻度更新領域A2より新しい高頻度更新領域B2の方が、サイズが大きい場合を示している。
第4の実施の形態の領域管理テーブル144は、高頻度更新領域の継続利用の中止の時刻を格納する統合指示時刻[ms]の欄がさらに設けられている。
図25および図26は、第4の実施の形態のサーバ装置が行う移動検出処理を示すフローチャートである。
[ステップS73] 移動検出部14iは、ステップS72で算出した面積Sxが0より大きいか否か判断する。面積Sxが0より大きい場合(ステップS72のYes)、ステップS74に遷移する。面積Sxが0以下である場合(ステップS72のNo)、ステップS26に遷移する。
図27は、第4の実施の形態のサーバ装置の高頻度更新領域の統合処理の手順を示すフローチャートである。
[ステップS81] 移動検出部14iは、ステップS77で設定した時刻の経過を検出すると、ステップS82に遷移する。
[ステップS84] 移動検出部14iは、前回領域管理テーブル142に格納されている前回領域管理データを削除する。その後、ステップS85に遷移する。
この第4の実施の形態の情報処理システムによれば、第2の実施の形態の情報処理システムと同様の効果が得られる。
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、情報処理装置1、サーバ装置10、クライアント装置2、20それぞれが有する機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記憶装置、光ディスク、光磁気記録媒体、半導体メモリ等が挙げられる。磁気記憶装置には、ハードディスクドライブ、フレキシブルディスク(FD)、磁気テープ等が挙げられる。光ディスクには、DVD、DVD−RAM、CD−ROM/RW等が挙げられる。光磁気記録媒体には、MO(Magneto-Optical disk)等が挙げられる。
(付記1) 動画圧縮して送信した第1の領域を示す情報を記憶する記憶部と、
画像の更新量が閾値以上の第2の領域を識別する識別部と、
前記第1の領域と前記第2の領域との重複関係に基づいて、前記第2の領域の画像を、前記第1の領域の前記動画と関連して送信するか否かを判断する判断部と、
前記第2の領域と前記第1の領域とを関連して送信すると判断した場合、前記第2の領域の少なくとも一部を包含する領域の画像を、前記第1の領域の画像に続けて動画圧縮して送信すると共に、該動画圧縮した画像の表示位置を示す情報を送信する送信部と、
を有することを特徴とする情報処理装置。
(付記4) 前記判断部は、前記第2の領域の面積が前記第1の領域の面積より小さく、かつ、前記重複領域を包含する領域の画像を前記第1の領域の画像に続けて動画圧縮したときのデータ量が、前記第2の領域の画像を先頭とする動画圧縮をしたときのデータ量より小さいときに、前記第2の領域の画像を前記第1の領域の前記動画と関連して送信すると判断することを特徴とする付記2記載の情報処理装置。
前記判断部は、前記計数部が計数した前記回数が予め用意した回数以上である場合に、前記第2の領域の画像の前記第1の領域の前記動画と関連した送信を中止することを特徴とする付記4記載の情報処理装置。
動画圧縮して送信した第1の領域を示す情報が記憶装置に記憶し、
画像の更新量が閾値以上の第2の領域を識別し、
前記第1の領域と前記第2の領域との重複関係に基づいて、前記第2の領域の画像を、前記第1の領域の前記動画と関連して送信するか否かを判断し、
前記第2の領域と前記第1の領域とを関連して送信すると判断した場合、前記第2の領域の少なくとも一部を包含する領域の画像を、前記第1の領域の画像に続けて動画圧縮して送信すると共に、該動画圧縮した画像の表示位置を示す情報を送信する、
ことを特徴とする情報処理方法。
動画圧縮して送信した第1の領域を示す情報が記憶装置に記憶し、
画像の更新量が閾値以上の第2の領域を識別し、
前記第1の領域と前記第2の領域との重複関係に基づいて、前記第2の領域の画像を、前記第1の領域の前記動画と関連して送信するか否かを判断し、
前記第2の領域と前記第1の領域とを関連して送信すると判断した場合、前記第2の領域の少なくとも一部を包含する領域の画像を、前記第1の領域の画像に続けて動画圧縮して送信すると共に、該動画圧縮した画像の表示位置を示す情報を送信する、
処理を実行させることを特徴とする情報処理プログラム。
1a 記憶部
1b 識別部
1c 判断部
1d 送信部
1e 画像記憶部
1f、14c 更新頻度判別部
2、20 クライアント装置
2a 表示部
3、4 領域
5 情報処理システム
10 サーバ装置
11a OS実行制御部
11b アプリ実行制御部
12 グラフィックドライバ
13 フレームバッファ
14 リモート画面制御部
14a 操作情報取得部
14b 画面生成部
14d 更新領域識別部
14e、21h 領域管理データ格納部
141f、142f、143f エンコーダ
14g 第1の送信部
14h 第2の送信部
14i 移動検出部
14j 前回領域管理データ格納部
21 リモート画面制御部
21a 操作情報通知部
21b 第1の受信部
21c 第1の表示制御部
21d 第2の受信部
211e、212e、213e デコーダ
21f 第2の表示制御部
21g 表示位置変更検出部
30 マップ
31 メッシュ
31a、31b 更新矩形
32 画素
50 ネットワーク
51 メッシュ連結体
52、62 補間領域
53 矩形
61a、61b 候補
63 合成体
70A デスクトップ画面
70B、70C 画面
71 ブラウザ画面
72 動画再生画面
73 移動軌跡
74 動画再生領域
141 領域管理テーブル
142 前回領域管理テーブル
Claims (9)
- 画像が表示される表示領域のうち、動画圧縮して送信した画像が表示される領域を示す情報を記憶する記憶部と、
前記表示領域内の領域のうち画像の更新頻度が閾値以上の領域を識別する識別部と、
過去に送信した画像に対応して前記識別部が識別した第1の領域と、前記識別部が識別した現在の第2の領域との重複関係に基づいて、前記第2の領域に表示する画像を、当該第1の領域に対応する画像と関連して送信するか否かを判断する判断部と、
前記第2の領域に表示する画像と前記第1の領域に対応する画像とを関連して送信すると判断した場合、前記第2の領域に表示する画像の少なくとも一部を、前記第1の領域に対応する画像に基づいて動画圧縮し、当該画像の少なくとも一部の表示位置を示す情報と共に送信する送信部と、
を有することを特徴とする情報処理装置。 - 前記判断部は、前記第1の領域と前記第2の領域の面積が等しく、かつ、前記第1の領域と前記第2の領域との間に重複領域が存在する場合に前記第2の領域に表示する画像を前記第1の領域に対応する画像と関連して送信すると判断する
ことを特徴とする請求項1記載の情報処理装置。 - 前記判断部は、前記第2の領域の面積が前記第1の領域の面積より小さく、かつ、前記重複領域を包含する領域の画像を前記第1の領域に対応する画像に基づいて動画圧縮したときのデータ量が、前記第2の領域に表示する画像を先頭とする動画圧縮をしたときのデータ量より小さいときに、前記第2の領域に表示する画像を前記第1の領域に対応する画像と関連して送信すると判断する
ことを特徴とする請求項2記載の情報処理装置。 - 前記第2の領域に表示する画像を前記第1の領域に対応する画像に基づいて動画圧縮して送信した回数を計数する計数部をさらに備え、
前記判断部は、前記計数部が計数した前記回数が予め用意した回数以上である場合に、前記第2の領域に表示する画像の前記第1の領域に対応する画像と関連して送信すること、を中止する
ことを特徴とする請求項3記載の情報処理装置。 - 前記識別部は、複数の前記画像を記憶する画像記憶部に記憶された画像を複数の領域に分割し、該領域毎にフレーム間の更新の頻度を判別し、前記更新の頻度が一定以上である領域を識別する
ことを特徴とする請求項1記載の情報処理装置。 - 前記判断部は、前記第2の領域の面積が前記第1の領域の面積より大きく、かつ、前記第1の領域と前記第2の領域との重複部分が存在する場合、前記第2の領域に表示する画像を前記第1の領域に対応する画像と関連して送信すると判断する
ことを特徴とする請求項1記載の情報処理装置。 - 前記第2の領域に表示する画像を前記第1の領域に対応する画像に基づいて動画圧縮して送信する期間が一定期間を超えた場合に、前記送信部は、前記第2の領域に表示する画像を先頭の画像とする動画を送信する
ことを特徴とする請求項6記載の情報処理装置。 - コンピュータが、
画像が表示される表示領域のうち、動画圧縮して送信した画像が表示される領域を示す情報を記憶装置に記憶し、
前記表示領域内の領域のうち画像の更新頻度が閾値以上の領域を識別する識別処理を実行し、
過去に送信した画像に対応して前記識別処理で識別した第1の領域と、前記識別処理で識別した現在の第2の領域との重複関係に基づいて、前記第2の領域に表示する画像を、当該第1の領域に対応する画像と関連して送信するか否かを判断し、
前記第2の領域に表示する画像と前記第1の領域に対応する画像とを関連して送信すると判断した場合、前記第2の領域に表示する画像の少なくとも一部を、前記第1の領域に対応する画像に基づいて動画圧縮し、当該画像の少なくとも一部の表示位置を示す情報と共に送信する、
ことを特徴とする情報処理方法。 - コンピュータに、
画像が表示される表示領域のうち、動画圧縮して送信した画像が表示される領域を示す情報を記憶装置に記憶し、
前記表示領域内の領域のうち画像の更新頻度が閾値以上の領域を識別する識別処理を実行し、
過去に送信した画像に対応して前記識別処理で識別した第1の領域と、前記識別処理で識別した現在の第2の領域との重複関係に基づいて、前記第2の領域に表示する画像を、当該第1の領域に対応する画像と関連して送信するか否かを判断し、
前記第2の領域に表示する画像と前記第1の領域に対応する画像とを関連して送信すると判断した場合、前記第2の領域に表示する画像の少なくとも一部を、前記第1の領域に対応する画像に基づいて動画圧縮し、当該画像の少なくとも一部の表示位置を示す情報と共に送信する、
処理を実行させることを特徴とする情報処理プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010269899A JP5720211B2 (ja) | 2010-12-03 | 2010-12-03 | 情報処理装置、情報処理方法および情報処理プログラム |
US13/303,956 US8411972B2 (en) | 2010-12-03 | 2011-11-23 | Information processing device, method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010269899A JP5720211B2 (ja) | 2010-12-03 | 2010-12-03 | 情報処理装置、情報処理方法および情報処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012120066A JP2012120066A (ja) | 2012-06-21 |
JP5720211B2 true JP5720211B2 (ja) | 2015-05-20 |
Family
ID=46162301
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010269899A Active JP5720211B2 (ja) | 2010-12-03 | 2010-12-03 | 情報処理装置、情報処理方法および情報処理プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US8411972B2 (ja) |
JP (1) | JP5720211B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201251429A (en) * | 2011-06-08 | 2012-12-16 | Hon Hai Prec Ind Co Ltd | System and method for sending streaming of desktop sharing |
JP2013137735A (ja) * | 2011-11-30 | 2013-07-11 | Ricoh Co Ltd | 表示制御装置、表示制御方法、プログラム、表示システム |
WO2014017003A1 (ja) * | 2012-07-25 | 2014-01-30 | 日本電気株式会社 | 更新領域検出装置 |
US9424660B2 (en) * | 2012-08-07 | 2016-08-23 | Intel Corporation | Media encoding using changed regions |
CN102929570B (zh) * | 2012-09-26 | 2016-01-27 | 东软集团股份有限公司 | 屏幕描述方法及装置 |
JP6248671B2 (ja) * | 2014-02-10 | 2017-12-20 | 富士通株式会社 | 情報処理装置、方法、プログラム、および情報処理システム |
US10976983B2 (en) * | 2019-03-26 | 2021-04-13 | International Business Machines Corporation | Smart collaboration across multiple locations |
US11347941B2 (en) * | 2019-04-30 | 2022-05-31 | Marvell Asia Pte, Ltd. | Methods and apparatus for compressing data streams |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7289244B2 (en) * | 2000-02-02 | 2007-10-30 | Raja Singh Tuli | Portable high speed internet access device |
JP3680845B2 (ja) * | 2003-05-28 | 2005-08-10 | セイコーエプソン株式会社 | 圧縮動画像の伸張装置及びそれを用いた画像表示装置 |
CA2538340A1 (en) | 2003-09-12 | 2005-03-31 | Citrix Systems, Inc. | Method and apparatus for generating graphical and media displays at a thin client |
JP2007072130A (ja) * | 2005-09-06 | 2007-03-22 | Seiko Epson Corp | 画像表示システム、画像表示装置、画像データ出力装置、画像処理プログラム、及びこの画像処理プログラムを記録した記録媒体 |
JP4998021B2 (ja) * | 2007-03-08 | 2012-08-15 | カシオ計算機株式会社 | サーバ装置、クライアント装置及びプログラム |
WO2009102011A1 (ja) * | 2008-02-14 | 2009-08-20 | Nec Corporation | 更新領域検出装置 |
-
2010
- 2010-12-03 JP JP2010269899A patent/JP5720211B2/ja active Active
-
2011
- 2011-11-23 US US13/303,956 patent/US8411972B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20120141038A1 (en) | 2012-06-07 |
US8411972B2 (en) | 2013-04-02 |
JP2012120066A (ja) | 2012-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5720211B2 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
JP5471794B2 (ja) | 情報処理装置、画像送信プログラム及び画像表示方法 | |
JP5471903B2 (ja) | 情報処理装置、画像送信プログラム及び画像表示方法 | |
JP5678619B2 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
US8819270B2 (en) | Information processing apparatus, computer-readable non transitory storage medium storing image transmission program, and computer-readable storage medium storing image display program | |
US20130155075A1 (en) | Information processing device, image transmission method, and recording medium | |
JP5821610B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5664289B2 (ja) | 情報処理装置、画像送信プログラムおよび画像表示方法 | |
US9247029B1 (en) | Efficient processing of streams of images within a moving window session | |
JP5899897B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US9124813B2 (en) | Information processing device using compression ratio of still and moving image data | |
US9269281B2 (en) | Remote screen control device, remote screen control method, and recording medium | |
JP5874257B2 (ja) | 情報処理装置、画像送信方法及び画像送信プログラム | |
JP2017169001A (ja) | 表示画面データの伝送装置、伝送方法及び伝送プログラム | |
JP5391780B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2020187482A (ja) | 情報処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130904 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140409 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140507 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150224 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150309 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5720211 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |