JP5695597B2 - 画面表示装置及び画面表示システム - Google Patents

画面表示装置及び画面表示システム Download PDF

Info

Publication number
JP5695597B2
JP5695597B2 JP2012078368A JP2012078368A JP5695597B2 JP 5695597 B2 JP5695597 B2 JP 5695597B2 JP 2012078368 A JP2012078368 A JP 2012078368A JP 2012078368 A JP2012078368 A JP 2012078368A JP 5695597 B2 JP5695597 B2 JP 5695597B2
Authority
JP
Japan
Prior art keywords
window
configuration information
screen
unit
screen display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012078368A
Other languages
English (en)
Other versions
JP2013205835A (ja
Inventor
美佳 峰松
美佳 峰松
後藤 真孝
真孝 後藤
川村 卓也
卓也 川村
高橋 誠
誠 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2012078368A priority Critical patent/JP5695597B2/ja
Priority to US13/776,621 priority patent/US20130263045A1/en
Publication of JP2013205835A publication Critical patent/JP2013205835A/ja
Application granted granted Critical
Publication of JP5695597B2 publication Critical patent/JP5695597B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)

Description

本発明の実施形態は、画面表示装置及び画面表示システムに関する。
大画面表示装置上で必要な情報を表示し、大画面表示装置にネットワークを通じて接続される端末操作により情報共有や共同作業を効率化する協調作業システムがある。大画面表示装置上では、複数のウィンドウを同時に表示することが可能であり、ユーザからの操作により、各ウィンドウの移動、リサイズ、消去等が可能である。
ユーザが大画面表示装置上の画面レイアウトを手元のレイアウト制御装置から操作するために、画面転送システム(例えば、非特許文献1参照)を利用することができる。画面転送システムでは、簡易な入出力インタフェースを有する表示装置をユーザ側に配し、複雑な演算処理は遠隔地に位置するサーバ装置上で実行する。サーバ装置では、表示装置からの入力情報に従い、画面情報を描画し、更新領域の画面情報を表示装置に送信する。
T. Richardson, Q. Stafford‐Fraser, K. Wood and A. Hopper, "Virtual Network Computing," IEEE Internet Computing, vol.2, no.1, pp.33−38, 1998
しかしながら、画面転送システムでは、画面全体から更新領域を検出し、更新領域の圧縮画像を定期的に送信する。この際、画像情報の取得処理、圧縮処理、ネットワーク転送処理が発生するため、特に大画面の場合はシステムにかかる負荷が高いという問題がある。
本発明が解決しようとする課題は、画面情報が変化した場合でもシステムにかかる負荷を軽減する画面表示装置及び画面表示システムを提供することを目的とする。
上記目的を達成するために、本発明の一実施例に係る画面表示装置は、ネットワークを介し接続する端末の操作により所定領域の画面表示を制御する画面表示装置であって、前記端末の操作に対応する所定領域の画面構成情報を生成するウィンドウ構成情報生成部と、前記所定領域の画面構成情報を管理するレイアウト管理部と、前記端末の負荷を取得する負荷取得部と、前記所定領域の画面構成情報を前記端末へ送信する通信部と、を備え前記ウィンドウ構成情報生成部は、前記負荷に応じ前記所定領域の画面構成情報に含める情報を変更することを特徴とする画面表示装置。
上記目的を達成するために、本発明の一実施例に係る画面表示システムは、端末と、ネットワークを介し接続する前記端末の操作により所定領域の画面表示を制御する画面表示装置とを備えた画面表示システムであって、前記画面表示装置は、前記端末の操作に対応する所定領域の画面構成情報を生成するウィンドウ構成情報生成部と、前記所定領域の画面構成情報を管理するレイアウト管理部と、前記端末の負荷を取得する負荷取得部と、前記所定領域の画面構成情報を前記端末へ送信する通信部とを備え、前記ウィンドウ構成情報生成部は、前記負荷に応じ前記所定領域の画面構成情報に含める情報を変更することを特徴とする画面表示システム。
第1の実施形態に係る大画面表示装置の構成例を示す図。 第1の実施形態に係るウィンドウ構成情報の例を示す図。 第1の実施形態に係るウィンドウ操作処理の概要を示すフローチャート。 第1の実施形態に係るウィンドウ構成情報送信処理の概要を示すフローチャート。 第1の実施形態に係るウィンドウ画像送信処理の概要を示すフローチャート。 第1の実施形態に係る表示画面の例を示す図。 第1の実施形態に係る更新すべきと判断されるウィンドウの例を示す図。 第2の実施形態に係る大画面表示装置の構成例を示す図。 第2の実施形態に係るウィンドウ構成情報送信処理の概要を示すフローチャート。 第3の実施形態に係る大画面表示装置の構成例を示す図。 第3の実施形態に係る表示画面の例を示す図。 第4の実施形態に係る大画面表示装置の構成例を示す図。 第4の実施形態に係る表示画面の例を示す図。 第5の実施形態に係る大画面表示装置の構成例を示す図。 第5の実施形態に係るウィンドウ構成情報送信処理の概要を示すフローチャート。 第5の実施形態に係る更新すべきと判断されるウィンドウの例を示す図。
(第1の実施形態)
以下、実施形態に係る画面制御装置を図面を参照して説明する。
図1に、第1の実施形態に係る大画面表示装置100の構成例を示す。
図1に示すように、実施例1に係る大画面表示装置100は、ウェブサーバプログラム200と、ウィンドウサーバ300と、ハードウェア400とを備えている。
ウェブサーバプログラム200は、ウィンドウ構成情報生成部201と、ウィンドウ操作命令発行部202とを備えている。
ウィンドウ構成情報生成部201は、大画面表示装置100上の所定領域の画面構成情報を生成する。所定領域の画面構成情報は、大画面表示装置100上の画面レイアウトが分かるものであればどのようなものでもよい。例えば、ウィンドウのレイアウト情報(後述)やウィンドウを識別するためのウィンドウ画像やウィンドウ名を含むウィンドウリストを生成してもよい。なお、ウィンドウリストには、すべてのウィンドウを含めてもよいし、親ウィンドウがルートウィンドウであるウィンドウのみを含めてもよい。ルートウィンドウとは、スクリーン全体を表すウィンドウを指す。
図2に、ウィンドウリストの例を示す。図2では、ウィンドウの識別子、表示位置のx座標、y座標、幅、高さ、名前、画像を含むリストの例を示している。
なお、大画面表示装置100上の所定領域は、ある所定のウィンドウを示すとする。画面構成情報であるウィンドウ構成情報として、例えばウィンドウリストを送信する場合、レイアウト制御装置500では、ウィンドウ構成情報に従い画面情報を生成して表示する。
また、ウィンドウ構成情報としてレイアウト制御装置500上で表示すべき画面情報を生成してもよい。この場合は、レイアウト制御装置500では、受信したウィンドウ構成情報をそのまま表示する。
レイアウト制御装置500は、例えば、図2のウィンドウ構成情報を受信すると、レイアウト制御装置500の画面上の(10、10)から幅1024ピクセル、高さ768ピクセルの位置にwindowA.jpgを表示し、画面上の(10、1000)から幅1024ピクセル、高さ768ピクセルの位置にwindowB.jpgを表示する。
また、レイアウト制御装置500は、ユーザが操作する端末であり、ユーザがレイアウト制御装置500(レイアウト制御端末)の画面を操作すると、操作に対応するウィンドウ操作命令を大画面表示装置100上のウェブサーバプログラム200へ発行する。例えば、レイアウト制御装置500の画面上の(100、100)(ウィンドウAが表示されている画面領域内)でクリックして(200、100)に移動させると、ウィンドウAを右へ100ピクセル分移動するために、ウィンドウの移動命令を発行する。
ウィンドウ操作命令発行部202は、レイアウト制御装置500からウィンドウ操作命令を受信して、レイアウト管理部301にウィンドウ操作命令を発行する。
なお、レイアウト制御装置500上のウェブクライアントプログラムと大画面表示装置100上のウェブサーバプログラム200は、ブラウザモジュール(index.html)とブラウザからのリクエストを受けてウィンドウサーバ300に働きかけを行なうCGIモジュールとして実装できる。両者はHTTPプロトコルでやりとりを行ない、CGIモジュールはブラウザからのリクエストを受けた場合にだけ動作する。
ウィンドウサーバ300は、レイアウト管理部301と、描画部302と、画像取得部303と、レイアウト情報記憶部304とを備えている。
レイアウト管理部301は、レイアウト情報記憶部304に記憶する大画面表示装置100上で表示するウィンドウのレイアウト情報を管理する。レイアウト管理部301は、ウィンドウ操作命令発行部202からウィンドウ操作命令を受信し、ウィンドウ操作命令に従って画面レイアウトを変更するために、レイアウト情報を更新して、描画命令を描画部302に発行する。レイアウト情報は、ウィンドウの識別子、表示位置、サイズ、重なり領域情報を含む。
なお、表示位置は、座標情報などを用いて記憶する。座標情報とは、例えば、1024×768ピクセルの画面の場合、画面左上を(0、0)、画面右下を(1023、767)とするような座標系で表された情報をいう。記憶方法は、ウィンドウの配置方法が分かるものであればどのようなものでもよい。ウィンドウサーバ300が、例えばXサーバの場合、XQueryTree関数により、ウィンドウの識別子、表示位置、サイズのリストを、画面上の最背面のウィンドウから最前面のウィンドウへの順で取得することができる。
描画部302は、レイアウト管理部301から描画命令を受け取り、描画命令に従い、各種画面処理を行ってその結果である画面情報をフレームバッファ401に描画する。
画像取得部303は、フレームバッファ401(後述)からウィンドウ画像を取得する。例えばXサーバの場合、XGetImage関数により、ウィンドウ画像を取得することができる。
なお、画像取得部303は、圧縮処理や縮小処理を含んでもよい。圧縮処理は、ウィンドウ画像を圧縮する。また、縮小処理は、ウィンドウ画像を縮小する。
ハードウェア400は、フレームバッファ401と、通信部402とを備えている。
フレームバッファ401は、大画面表示装置100で表示する画面の画面情報を記憶する記憶部である。なお、フレームバッファ401は、RAM(Random Access Memory)、HDD(Hard Disk Drive)、光ディスク、メモリカードなどの一般的に利用されているあらゆる記憶媒体により構成することができる。
通信部402は、レイアウト制御装置500との通信を行なう。
次に、このように構成された第1の実施の形態にかかる大画面表示装置100によるウィンドウ操作処理およびウィンドウ構成情報送信処理について説明する。
最初に、ウィンドウ操作処理の概要について図3を用いて説明する。
まず、ウィンドウ操作命令発行部202が、レイアウト制御装置500からウィンドウ操作命令を受信する。
なお、ウィンドウ操作命令は、例えば、ウィンドウの移動命令やリサイズ命令を含み、HTTPのGETメソッドを用いて、ブラウザからウェブサーバに対してMoveリクエストやResizeリクエストを発行することにより実現することができる。
次に、ウィンドウ操作命令発行部202が、レイアウト管理部301にウィンドウ操作命令を発行する。例えば、Xサーバの場合、XMoveWindow関数やXResizeWindow関数を発行する。そして、レイアウト管理部301が、ウィンドウ操作命令に従い、レイアウト情報を更新して、描画部302に描画命令を発行する。
次に、描画部302が、フレームバッファ401に描画し、大画面表示装置100上の画面レイアウトが変更される。
ウィンドウ構成情報送信処理の概要について図4を用いて説明する。
まず、ウィンドウ構成情報生成部201が、レイアウト制御装置500からウィンドウ構成情報取得命令を受信する。
次に、ウィンドウ構成情報生成部201が、レイアウト管理部301からレイアウト情報を取得し、ウィンドウ構成情報を生成する。
そして、通信部402が、ウィンドウ構成情報をレイアウト制御装置500へ送信する。
次に、ウィンドウ画像送信処理の概要について図5を用いて説明する。
まず、ウィンドウ構成情報生成部201が、レイアウト制御装置500からウィンドウ画像取得命令を受信する。
次に、ウィンドウ構成情報生成部201が、画像取得部303からウィンドウ画像を取得する。
そして、通信部402が、ウィンドウ画像をレイアウト制御装置500へ送信する。
なお、図6に、レイアウト制御装置500における表示画面の例を示す。図に示すように、画面全体ではなく、ウィンドウ画像だけ取得することにより、負荷を軽減することができる。
また、レイアウト制御装置500では、レイアウト情報を定期的に取得する。この際に、例えば、新たに表示されたウィンドウや前面に移動して隠れていた部分が表示されたウィンドウを検出する。例えば、新しいウィンドウ識別子のウィンドウは新たに表示されたウィンドウであると判断し、重なり領域が減少したウィンドウは隠れていた部分が表示されたウィンドウであると判断できる。図7に、検出されるウィンドウの例を示す。図に示すように、一般に、ウィンドウ画像を取得する場合、他のウィンドウで隠れている等の理由により画面上に表示されていない領域は黒塗りの画像として取得される。そのため、隠れていた部分が表示されたウィンドウに対するウィンドウ画像を再取得することにより、黒塗りの部分が更新され、ウィンドウの識別性が向上する。ウィンドウ画像を更新すべきウィンドウを検出する処理は、大画面表示装置100で行なってもよいし、レイアウト制御装置500で行なってもよいし、別途サーバを設けてサーバで行なってもよい。大画面表示装置100で行なう場合は、ウィンドウ画像取得命令を受信すると、検出したウィンドウに対するウィンドウ画像のみ取得して送信する。なお、大画面表示装置100で検出する場合は、ウィンドウ構成情報取得命令とウィンドウ画像取得命令を分けずに、ウィンドウ構成情報取得命令受信時にウィンドウ画像も一緒に送信してもよい。一方、レイアウト制御装置500またはサーバ装置で行なう場合は、特定のウィンドウを指定したウィンドウ画像取得命令を受信して、指定されたウィンドウに対するウィンドウ画像のみ取得して送信する。
このように、第1の実施の形態にかかる大画面表示装置は、画面全体ではなくウィンドウ画像だけ送信することと、常に送信するのではなく画面上に新たに表示された領域を含むウィンドウのウィンドウ画像のみ送信することにより、負荷を軽減することができる。
(第2の実施形態)
次に、第2の実施形態について説明する。
第1の実施の形態では、レイアウト制御装置500からの定期的なウィンドウ構成情報取得命令をトリガとして、ウィンドウ構成情報を更新していた。
第2の実施の形態では、大画面表示装置100でレイアウト変更を検知することをトリガとして、ウィンドウ構成情報を更新する例について説明する。
図8に、第2の実施の形態に係る大画面表示装置100のブロック図を示す。
第2の実施の形態では、レイアウト変更検知部203と、ウィンドウ操作命令発行部202と、ウィンドウ構成情報生成部201の機能が第1の実施の形態と異なっている。その他の構成は、第1の実施の形態に係る大画面表示装置100の構成と同様であるので、ここでの説明は省略する。なお、第1の実施形態と共通する部分については、同一の符号を付して適宜に説明を省略する。
レイアウト変更検知部203は、隠れていた部分が表示されたウィンドウを検出し、ウィンドウ構成情報生成部201へ通知する。例えばXサーバの場合、XSelectInput関数でExposureMaskを指定することにより、あるウィンドウの隠れていた部分が表示されるときに該当するウィンドウの通知を受けることができる。
ウィンドウ操作命令発行部202は、ウィンドウ操作命令を発行したレイアウト制御装置500をウィンドウ構成情報生成部201へ通知する。
ウィンドウ構成情報生成部201は、レイアウト変更検知部203から通知を受けたウィンドウに対するウィンドウ画像を画像取得部303から取得し、ウィンドウ構成情報を生成する。
また、ウィンドウ構成情報生成部201は、複数のレイアウト制御装置500が存在する場合に、ウィンドウ操作命令発行部202から通知を受けると、レイアウト情報をレイアウト管理部301から取得し、ウィンドウ操作命令を発行したレイアウト制御装置500以外のレイアウト制御装置500に対して、ウィンドウ構成情報を生成する。これにより、複数のレイアウト制御装置500から複数のユーザがウィンドウ操作を行なっている場合に、他のユーザが行なったウィンドウ操作による画面レイアウトの変更をレイアウト制御装置500に反映することができる。なお、同一のウィンドウに対して、複数のユーザから異なる操作命令をほぼ同時に受信した場合は、例えば、後に到着した操作命令を実行する。
次に、このように構成された第2の実施の形態にかかる大画面表示装置100によるウィンドウ構成情報送信処理について図9を用いて説明する。なお、ウィンドウ操作処理は、第1の実施の形態に係る大画面表示装置100の機能と同様であるので、ここでの説明は省略する。
第1の実施の形態では、レイアウト制御装置500からのリクエストをトリガとして、ウィンドウ構成情報としてレイアウト情報およびウィンドウ画像を送信していた。
第2の実施の形態では、大画面表示装置100でレイアウト変更を検知することをトリガとして、ウィンドウ構成情報を送信する。
まず、ウィンドウ構成情報生成部201は、レイアウト変更検知部203から、隠れていた部分が表示されたウィンドウの通知を受け、該当するウィンドウに対するウィンドウ画像を画像取得部303から取得し、全てのレイアウト制御装置500に対してウィンドウ構成情報を生成する。
また、ウィンドウ構成情報生成部201は、ウィンドウ操作命令発行部202から、ウィンドウ操作を発行したレイアウト制御装置500の通知を受け、レイアウト管理部301からレイアウト情報を取得し、ウィンドウ操作を発行したレイアウト制御装置500以外のレイアウト制御装置500に対してウィンドウ構成情報を生成する。そして、通信部402が、ウィンドウ構成情報をウィンドウ操作を発行したレイアウト制御装置500以外のレイアウト制御装置500に対して送信する。
なお、HTTPプロトコルは、リクエストに対してレスポンスを返す形のプロトコルであり、ブラウザからリクエストしない限り、ウェブサーバからレスポンスを送ることはできない。そこで、ウェブサーバとブラウザ間の双方向通信を実現するために、新たに、WebSocketと呼ばれる通信規格が策定されており、ウェブサーバとブラウザ間ではHTTPに準拠してハンドシェイクを行ない、ブラウザからウェブサーバにWebSocketへのUpgrade要求を行なうことにより、ハンドシェイクで用いられたHTTPのコネクションをWebSocketでのデータ送受信で用いることが可能となる。第2の実施の形態は、WebSocketを用いて実現することができる。
このように、第2の実施の形態にかかる大画面表示装置では、大画面表示装置でレイアウト変更を検知することをトリガとして、更新すべきと判断したウィンドウに対するウィンドウ構成情報のみを送信すべきと判断したレイアウト制御装置500のみに送信することにより、負荷を軽減することができる。
(第3の実施形態)
次に、第3の実施形態について説明する。
第1の実施の形態では、ウィンドウ構成情報にウィンドウ画像を含めていた。
第3の実施の形態では、ウィンドウ構成情報にウィンドウ名を含める例について説明する。
図10に、第3の実施の形態に係る大画面表示装置のブロック図を示す。また、図11は、第3の実施の形態にかかるレイアウト制御装置500における表示画面の例である。
第3の実施の形態では、負荷取得部204と、ウィンドウ構成情報生成部201と、ウィンドウ名取得部305の機能が第1の実施の形態と異なっている。その他の構成は、第1の実施の形態に係る大画面表示装置100の構成と同様であるので、ここでの説明は省略する。なお、第1の実施形態と共通する部分については、同一の符号を付して適宜に説明を省略する。
負荷取得部204は、レイアウト制御装置500の負荷を取得する。
ウィンドウ構成情報生成部201は、レイアウト制御装置500の負荷が閾値tよりも高い場合に、ウィンドウ名取得部305(後述)からウィンドウ名を取得して、ウィンドウ画像の代わりに、ウィンドウ構成情報に含める。
そして、ウィンドウ名取得部305は、ウィンドウ名を取得する。
ウィンドウ名は、例えば、ウィンドウのタイトルとして設定することができる。例えばXサーバの場合、XSetWMName関数およびXGetWMName関数で設定および取得できる。
なお、閾値を複数設けて、レイアウト制御装置500の負荷が閾値t1よりも高いが閾値t2よりも低い場合は、圧縮率や縮小率を高めたウィンドウ画像をウィンドウ構成情報に含め、レイアウト制御装置500の負荷が閾値t2よりも高い場合は、ウィンドウ名をウィンドウ構成情報に含めることとしてもよい。
また、レイアウト制御装置500の負荷が高い場合だけではなく、大画面表示装置100の負荷が高い場合に、ウィンドウ画像の代わりにウィンドウ名をウィンドウ構成情報に含めることとしてもよい。
このように、第3の実施の形態にかかる大画面表示装置では、レイアウト制御装置500の負荷が高い場合に、ウィンドウ画像でなくウィンドウ名を送信することにより、ウィンドウの識別性を維持したまま、負荷を軽減することができる。
(第4の実施形態)
次に、第4の実施形態について説明する。
第1の実施の形態では、大画面表示装置100上の画面全体に対するウィンドウ構成情報を送信していた。
第4の実施の形態では、レイアウト制御装置500上に表示されているウィンドウに対するウィンドウ構成情報のみ送信する例について説明する。
図12に、第4の実施の形態に係る大画面表示装置100のブロック図を示す。
第4の実施の形態では、表示領域取得部205と、ウィンドウ構成情報生成部201の機能が第1の実施の形態と異なっている。その他の構成は、第1の実施の形態に係る大画面表示装置100の構成と同様であるので、ここでの説明は省略する。なお、第1の実施形態と共通する部分については、同一の符号を付して適宜に説明を省略する。
表示領域取得部205は、レイアウト制御装置500上に表示されている表示領域を取得する。
ウィンドウ構成情報生成部201は、表示領域に表示されているウィンドウに対するウィンドウ構成情報のみ生成する。
図13に、第4の実施の形態にかかるレイアウト制御装置500における表示画面の例を示す。図13では、大画面表示装置100の画面の左半分のみをレイアウト制御装置500上で表示している例を示している。
この場合、ウィンドウ構成情報生成部201は、画面の左半分に表示されている2つのウィンドウに対応するウィンドウ構成情報のみを生成する。
なお、レイアウト制御装置500上で表示されていないウィンドウに対応するウィンドウ構成情報の変更は、例えば、全く送信しなくてもよいし、表示領域が変更される場合に備えて表示されているウィンドウに対応するウィンドウ構成情報の変更が少ない任意のタイミングで送信してもよい。
このように、第4の実施の形態にかかる大画面表示装置では、レイアウト制御装置500で表示されているウィンドウに対するウィンドウ構成情報のみ送信することにより、負荷を軽減することができる。
(第5の実施形態)
次に、第5の実施形態について説明する。
第1の実施の形態では、画面上に新たに表示された領域を含むウィンドウのウィンドウ画像のみ送信していた。
第5の実施の形態では、画像変化の大きいウィンドウに対するウィンドウ画像を送信する例について説明する。
図14に、第5の実施の形態に係る大画面表示装置100のブロック図を示す。
第5の実施の形態では、アプリケーション600と、描画部302と、更新検出部306と、判断部307と、レイアウト管理部301と、画像取得部303の機能が第1の実施の形態と異なっている。その他の構成は、第1の実施の形態に係る大画面表示装置100の構成と同様であるので、ここでの説明は省略する。なお、第1の実施形態と共通する部分については、同一の符号を付して適宜に説明を省略する。
アプリケーション600は、大画面表示装置100上で動作する各種処理を提供するプログラムである。アプリケーション600は、画面表示のために、描画部302へ描画命令を発行する。
描画部302は、アプリケーション600およびウィンドウ操作命令発行部202から描画命令を受け取り、フレームバッファ401に描画する。また、描画部302は、描画命令に含まれる座標情報などから特定する更新領域を更新検出部306(後述)に記録する。なお、記録方法は、画面上の更新領域が分かるものであればどのようなものでもよい。例えば、(0,0)から幅10ピクセル、高さ10ピクセルの矩形領域と(30,30)から幅200ピクセル、高さ5ピクセルの矩形領域のように、更新領域を矩形情報のリストとして記録してもよい。
更新検出部306は、更新領域を判断部307(後述)に通知する。
なお、更新検出部306は、差分抽出処理を含んでもよい。差分抽出処理は、更新領域に対応するフレームバッファ401の画面情報とレイアウト制御装置500に送信した画面情報を記憶しておくバックアップ画面を比較して、実際に変化のあった差分領域を抽出し、差分領域のみを更新領域として用いる。また、差分領域に該当する領域のバックアップ画面を更新する。
判断部307は、ウィンドウごとに、更新領域とレイアウト情報から計算したウィンドウ領域の交わる領域を計算し、領域が閾値sよりも大きい場合は、該当するウィンドウに対応するウィンドウ構成情報を更新すべきと判断し、該当するウィンドウをレイアウト管理部301と画像取得部303に通知する。また、更新すべきと通知したウィンドウに該当する領域を更新検出部306の更新領域から削除する。なお、判断部307は、描画が発生するたびに判断処理を開始してもよいし、タイマからの定期的なトリガにより判断処理を開始してもよい。
レイアウト管理部301は、判断部307から通知を受けると、レイアウト情報をウィンドウ構成情報生成部201へ通知する。
画像取得部303は、判断部307から通知を受けると、ウィンドウ画像をウィンドウ構成情報生成部201へ通知する。
次に、ウィンドウ構成情報送信処理の概要について図15を用いて説明する。
まず、アプリケーション600が画面表示のためまたはウィンドウ操作命令発行部202が画面レイアウト変更のために描画命令を発行し、描画部302がフレームバッファ401に描画し、更新領域を更新する。
次に、例えば、タイマからの定期的なトリガにより、判断処理を開始する。
まず、判断部307が、更新検出部306から受信した更新領域と、レイアウト管理部301から受信したレイアウト情報から計算したウィンドウ領域をもとに、更新領域とウィンドウ領域が交わる領域が閾値sよりも大きいウィンドウを検出し、該当するウィンドウをレイアウト管理部301および画像取得部303に通知する。
そして、レイアウト管理部301および画像取得部303が、通知されたウィンドウに対するレイアウト情報およびウィンドウ画像をウィンドウ構成情報生成部201へ渡す。
次に、ウィンドウ構成情報生成部201が、ウィンドウ構成情報を生成し、送信部がウィンドウ構成情報を送信する。
図16に、更新すべきと判断されるウィンドウ画像の例を示す。例えば、閾値sがウィンドウサイズの半分と定義されている場合、画像変化がウィンドウサイズの半分未満のウィンドウAのウィンドウ画像は送信されず、画像変化がウィンドウサイズの半分以上のウィンドウBのウィンドウ画像が送信される。すなわち、画像変化の小さいウィンドウAのウィンドウ画像は更新されず、画像変化の大きいウィンドウBのウィンドウ画像が更新される。
なお、閾値は、大画面表示装置100やレイアウト制御装置500の負荷に応じて動的に変更してもよい。また、ウィンドウの重要度に応じてウィンドウごとに閾値を変更してもよい。
このように、第5の実施の形態にかかる大画面表示装置では、画像変化の大きいウィンドウに対するウィンドウ画像のみを送信することにより、ウィンドウの識別性を維持したまま、負荷を軽減することができる。
これまで、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
100 大画面表示装置
200 ウェブサーバプログラム
201 ウィンドウ構成情報生成部
202 ウィンドウ操作命令発行部
301 レイアウト管理部
302 描画部
303 画像取得部
304 レイアウト情報記憶部
400 ハードウェア
401 フレームバッファ
402 通信部
500 レイアウト制御装置。

Claims (8)

  1. ネットワークを介し接続する端末の操作により所定領域の画面表示を制御する画面表示装置であって、
    前記端末の操作に対応する所定領域の画面構成情報を生成するウィンドウ構成情報生成部と、
    前記所定領域の画面構成情報を管理するレイアウト管理部と、
    前記端末の負荷を取得する負荷取得部と、
    前記所定領域の画面構成情報を前記端末へ送信する通信部とを備え、
    前記ウィンドウ構成情報生成部は、前記負荷に応じ前記所定領域の画面構成情報に含める情報を変更することを特徴とする画面表示装置。
  2. 前記所定領域の画面構成情報の変更を検知するレイアウト変更検知部をさらに備え、
    前記ウィンドウ構成情報生成部は、前記レイアウト変更検知部が変更を検知した領域の画面構成情報を生成することを特徴とする請求項1に記載の画面表示装置。
  3. 前記所定領域の画面構成情報に含める情報とはウィンドウ名であることを特徴とする請求項1または2に記載の画面表示装置。
  4. 前記ウィンドウ構成情報生成部は、前記負荷取得部で取得した負荷が所定の閾値より高い場合に、前記所定領域の画面構成情報報に含める情報を更新することを特徴とする請求項に記載の画面表示装置。
  5. 前記閾値が複数設定されることを特徴とする請求項に記載の画面表示装置。
  6. 前記端末で表示されている表示領域を取得する表示領域取得部をさらに備え、
    前記ウィンドウ構成情報生成部は、前記表示領域に対応する前記所定領域の画面構成情報を優先して生成することを特徴とする請求項1に記載の画面表示装置。
  7. 画面情報の更新を検出する更新検出部をさらに備え、
    前記ウィンドウ構成情報生成部は、前記更新検出部の検出した更新領域の変化率に応じて画面構成情報を生成することを特徴とする請求項1に記載の画面表示装置。
  8. 端末と、ネットワークを介し接続する前記端末の操作により所定領域の画面表示を制御する画面表示装置とを備えた画面表示システムであって、
    前記画面表示装置は、
    前記端末の操作に対応する所定領域の画面構成情報を生成するウィンドウ構成情報生成部と、
    前記所定領域の画面構成情報を管理するレイアウト管理部と、
    前記端末の負荷を取得する負荷取得部と、
    前記所定領域の画面構成情報を前記端末へ送信する通信部とを備え、
    前記ウィンドウ構成情報生成部は、前記負荷に応じ前記所定領域の画面構成情報に含める情報を変更することを特徴とする画面表示システム。
JP2012078368A 2012-03-29 2012-03-29 画面表示装置及び画面表示システム Active JP5695597B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012078368A JP5695597B2 (ja) 2012-03-29 2012-03-29 画面表示装置及び画面表示システム
US13/776,621 US20130263045A1 (en) 2012-03-29 2013-02-25 Screen display device and screen display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012078368A JP5695597B2 (ja) 2012-03-29 2012-03-29 画面表示装置及び画面表示システム

Publications (2)

Publication Number Publication Date
JP2013205835A JP2013205835A (ja) 2013-10-07
JP5695597B2 true JP5695597B2 (ja) 2015-04-08

Family

ID=49236803

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012078368A Active JP5695597B2 (ja) 2012-03-29 2012-03-29 画面表示装置及び画面表示システム

Country Status (2)

Country Link
US (1) US20130263045A1 (ja)
JP (1) JP5695597B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9037735B1 (en) * 2013-03-15 2015-05-19 Kaazing Corporation Establishing websocket protocol extensions
CN108366285B (zh) * 2017-07-06 2019-12-06 新华三云计算技术有限公司 一种视频数据显示方法和装置
WO2020202680A1 (ja) * 2019-03-29 2020-10-08 キヤノン株式会社 情報処理装置及び情報処理方法
CN110597586A (zh) * 2019-08-19 2019-12-20 北京邮电大学 基于拖拽的组件化布局大屏方法和装置
JP7290095B2 (ja) * 2019-09-30 2023-06-13 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
US11775245B1 (en) 2022-05-09 2023-10-03 International Business Machines Corporation Consistent representative screen sharing

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3833483B2 (ja) * 2001-03-06 2006-10-11 インターナショナル・ビジネス・マシーンズ・コーポレーション 画像表示システム、画像データ送信装置、表示画像データ送信方法、差分転送方法、プログラム、および記憶媒体
JP4329429B2 (ja) * 2003-07-04 2009-09-09 富士通株式会社 画像転送装置、画像転送方法、画像転送プログラム
JP4738805B2 (ja) * 2004-12-16 2011-08-03 株式会社リコー 画面共有システム、画面共有方法、画面共有プログラム
JP4751647B2 (ja) * 2005-06-03 2011-08-17 株式会社リコー 画面共有装置、画面共有方法、画面共有プログラム及び記録媒体
JP2007241736A (ja) * 2006-03-09 2007-09-20 Victor Co Of Japan Ltd リモートデスクトップシステムのサーバ装置及びクライアント装置
JP4309921B2 (ja) * 2007-02-07 2009-08-05 株式会社東芝 通信装置、通信方法、通信システム及びプログラム
JP2010118976A (ja) * 2008-11-14 2010-05-27 Toshiba Corp 通信装置、通信方法および通信プログラム
US8559755B2 (en) * 2009-04-07 2013-10-15 Citrix Systems, Inc. Methods and systems for prioritizing dirty regions within an image
JP2012133488A (ja) * 2010-12-20 2012-07-12 Canon Inc 画像処理装置、画像処理方法
JP5684049B2 (ja) * 2011-05-31 2015-03-11 株式会社東芝 サーバ装置、クライアント装置および画像転送システム

Also Published As

Publication number Publication date
US20130263045A1 (en) 2013-10-03
JP2013205835A (ja) 2013-10-07

Similar Documents

Publication Publication Date Title
JP5695597B2 (ja) 画面表示装置及び画面表示システム
JP6280435B2 (ja) プログラム、中継装置及び情報処理装置
KR20110100414A (ko) 컨텐츠 전송을 위한 유저 인터페이스를 디스플레이하는 디지털 기기 및 그의 유저 인터페이스 디스플레이 방법
US8434009B2 (en) Information processing apparatus and computer readable medium
JP6020397B2 (ja) 画像処理装置および画像処理システム
CN105554579A (zh) 视频帧选择辅助方法、装置以及能够播放视频的计算设备
CN103959208A (zh) 基于互联网浏览器远程用户界面虚拟鼠标光标定位的方法
CN104238873A (zh) 信息处理设备、信息处理方法和程序
JP2015023416A (ja) 通信装置、撮像装置およびそれらの制御方法、並びにプログラム
JP5303534B2 (ja) 体裁情報処理装置及び方法
KR100792240B1 (ko) 멀티 비전 구현 방법 및 그 시스템
US20160041737A1 (en) Systems, methods and computer program products for enlarging an image
US20130139066A1 (en) Information processing apparatus, information processing method, and storage medium
CN106210665B (zh) 一种基于视频采集的远程主机控制方法及系统
US9552404B2 (en) Data model definition display and modification
TWI649655B (zh) 遠端管理方法
JP6002268B1 (ja) データ表示システム
JP5932475B2 (ja) 画像転送装置及びその制御方法
TWI543002B (zh) 影像日誌系統及影像日誌記錄方法
KR102608208B1 (ko) 관심 이미지의 시인성을 개선한 스트리밍 서비스 방법, 장치 및 시스템
KR102599525B1 (ko) 관심 이미지의 시인성을 개선한 화면 표출 방법, 장치 및 시스템
JP6954045B2 (ja) 画像処理システム、ユーザインタフェースの提供方法、およびコンピュータプログラム
JP5662369B2 (ja) 画面転送装置及び画面転送システム
JP6809323B2 (ja) 情報処理装置、情報処理システムおよび情報処理方法
JPWO2017154565A1 (ja) 共同作業システム、編集制御プログラム及び編集制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150206

R151 Written notification of patent or utility model registration

Ref document number: 5695597

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151