JP2005249841A - 画像転送装置、画像転送方法、画像転送プログラム及び計算機 - Google Patents

画像転送装置、画像転送方法、画像転送プログラム及び計算機 Download PDF

Info

Publication number
JP2005249841A
JP2005249841A JP2004056161A JP2004056161A JP2005249841A JP 2005249841 A JP2005249841 A JP 2005249841A JP 2004056161 A JP2004056161 A JP 2004056161A JP 2004056161 A JP2004056161 A JP 2004056161A JP 2005249841 A JP2005249841 A JP 2005249841A
Authority
JP
Japan
Prior art keywords
data
range
screen
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004056161A
Other languages
English (en)
Other versions
JP4030511B2 (ja
Inventor
Shinya Murai
信哉 村井
Shogo Yamaguchi
尚吾 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2004056161A priority Critical patent/JP4030511B2/ja
Publication of JP2005249841A publication Critical patent/JP2005249841A/ja
Application granted granted Critical
Publication of JP4030511B2 publication Critical patent/JP4030511B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Digital Computer Display Output (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】 PCに表示した画面の様子をプロジェクタなどの表示装置上で可能な限り再現しながら、画面書き換え量に応じて表示装置への描画情報の伝送方法を変え、表示画面書き換えにかかる遅延を発生しにくくする。
【解決手段】 プロジェクタに送る画像をOSに与える描画指示から取得し、この描画指示を画像データと範囲データとして記憶してこれをもとに画像情報を作成して順次送信する。伝送に許容値以上の遅延が発生したときは、書換範囲を示す範囲データから過去に書き換えられた画面の範囲を特定し、この特定した範囲について画面表示用のバッファから最新の画面情報を取得して送信するようにする。
【選択図】 図2

Description

本発明は、自装置における画面の表示と同様の表示が他の通信装置の画面に表示されるように画面もしくは画面内の一部である画像の情報を他の通信装置に対して送信する画像転送装置、画像転送方法及び更新画像転送プログラムに関し、特に画面の書き換え情報を転送するときの伝送遅延を緩和する画像転送に関する。
近年、ノート型PCや、スクリーンへプレゼンテーション画像を表示するプロジェクタの普及が進み、発表者が各自PCを持ち込み多人数でミーティングする場面が多くなっている。直接ケーブルを接続する形態のものが一般的だが、これではそれぞれの発表者が入れ替わり立ち代りプロジェクタにケーブルをつなぎ替える煩雑さがある。そこでこういった煩雑さを解消するため、無線LANを用いて複数のPCからプロジェクタを共有するものが登場している。
無線LANを介してプロジェクタに表示すべき画面を表示させるためには、表示すべき1画面分の画像ファイルをプロジェクタに伝送する必要がある。しかしながら、無線LANのような共有で用いられる通信媒体ではこのような画像ファイルの伝送に使用できる帯域は限られる。仮に表示すべき1画面分の画像ファイルを、表示させたい画面が変わるたびに伝送していると、リアルタイムに伝送するには情報量が大きくなり過ぎてしまう。このため変化のあった一部の画面領域のみの画像データを静止画の連続画像として伝送するのが一般的な方法である(特許文献1を参照)。
特開2003−050694公報
画面の書き換えにかかる画像データの伝送に際して遅延が大きくならないように、変化のあった画面領域のみの画像データを伝送するようにしても、PCでの画面が短期間で何度も行われるとこのデータの転送のためにネットワークの通信容量を超過してしまい、表示すべき画面に変化があってからプロジェクタ等に表示されるまでの遅延時間が無視できなくなってくる。
本発明は上記の問題に鑑みて成されたものであり、PCで行われた画面の表示内容の遷移を表示装置上で可能な限り再現しながら、画面の内容の変化量に応じてプロジェクタ等の表示装置へ送信する画像データの伝送方法を変え、表示までの遅延を発生しにくくするものである。
本発明にかかる画面転送装置とすれば、
画像データ及び該画像データが表示される画面上の範囲を示す範囲データとを、それぞれが識別可能にかつ記憶した順に読み出せるように記憶する描画情報バッファと、画面を書き換えるための描画指示を取得して、該描画指示に含まれる画像データ及び範囲データを前記描画情報バッファに記憶する描画情報取得手段と、前記描画情報バッファに記憶した範囲データと画像データ、または範囲データと画面の画像情報を用いて、前記描画指示による書き換え後の画面と同様の画面表示が得られる画面書換指示を作成するデータ作成手段と、前記データ作成手段が作成した画面書換指示を他の装置に送信する送信手段と
を備え、前記データ作成手段は、前記描画情報バッファ内のデータの記憶状況に応じて、
前記画面書換指示の作成に用いるデータの組み合わせを変えることを特徴とする画像転送装置
が提供される。
また、前記描画情報取得手段は、前記描画情報バッファに記憶したデータ量が予め定めたしきい値に満たない場合には、取得した前記描画指示に基づく画像データと範囲データとを記憶し、一方、しきい値を越えた場合には、前記描画情報バッファに記憶した画像データの全てを削除し、以降前記描画情報バッファに記憶したデータの先頭または末尾が範囲データである限り画像データを除く範囲データを記憶し、前記データ作成手段は、前記描画情報バッファの先頭または末尾に記憶されたデータが画像データであった場合は、当該画像データと該画像データの書き換え範囲を示す範囲データとから前記画面書換指示を作成し、該画面書換指示の作成に用いた画像データ及び範囲データを削除し、一方、先頭または末尾が範囲データであった場合には、前記描画情報バッファに記憶された範囲データの全てから画面が更新された全ての画面範囲を特定し、画面上の該特定した画面範囲に相当する画像情報を取得することで前記画面書換情報を作成し、該画面書換情報の作成に用いた全ての範囲データを削除することを特徴とする画像転送装置
が提供される。
このように構成することにより、画面の書き換えにかかる描画データの処理に余裕がある限りは画面の遷移過程を再現できる上に、表示画面が書き換わるまでの遅延が無視できなくなった場合にも遅延時間を一定の範囲内に抑えることが可能となる。
さらに本発明にかかる画面転送装置を含む計算機、画面転送装置を計算機で実現するプログラム、画面転送方法が提供される。
PCで行われた画面の書き換えの様子をプロジェクタなどの表示装置上で可能な限り再現しながら、表示装置への画面書き換えにかかる画像データの伝送方法を、そのデータ量に応じて変えることで、表示されるまでの遅延時間を低く抑えることができる。
(第1の実施形態)
図1は、本実施形態における画面表示システムの一例である。図1には、表示すべき画面の画像データを生成して送信するPC100と、ネットワーク101を介して接続されたプロジェクタ102が示されている。このときネットワーク101は無線LANを想定しているが、その他の有線で構成されるネットワークであっても良いし、赤外線を媒体としたネットワークであってもかまわない。PC100とプロジェクタ102同士で画像データの伝送が可能なネットワークであれば良い。
PC100は、プレゼンテーションを行う発表者が操作するもので、プレゼンテーション中に書き換えのあった画面部分の画像のデータはネットワーク101を介してプロジェクタ102へと伝送される。
プロジェクタ102は、PC100から送信された画像データの画像をスクリーンに投影する。このとき送られてきた画像データはスクリーン全面に表示する画面であっても構わないが、画像データに加えて、画面上の表示する座標や表示範囲を示す範囲情報がある場合は、この範囲情報に相当する表示範囲にこの画像データを表示する機能を備えている。本実施形態では画像を表示する装置としてスクリーンを備えたプロジェクタを例に説明しているが、CRTやLCDなどの表示部を備え、ネットワークから画像データを受信可能なテレビ、PC、PDA等画像データを画面として表示する機能を備えた装置であれば
使用することができる。
図2は、本実施形態におけるPC100のブロック構成図の一例を示す図である。図2には、PC100が表示する画面を書き換えるユーザアプリケーション201、画面描画部202、現在PC100が表示している画面を記憶しておくためのフレームバッファ203及びフレームバッファ203に記憶した画像を表示する表示装置204が示されている。さらに、描画情報取得部206、描画情報バッファ207、送信データ作成部208及びデータ転送部209を備えた画像転送装置205が示されている。
図2では画像転送装置205はPC100の筐体内に含まれるように記載されているが、実際の装置としてはプログラムにより書き換え可能な表示画面をもつPCのような情報処理装置と一体で無ければならないということはなく、まったく別の筐体を持つ1装置として構成されていても構わない。
ユーザアプリケーション201は、たとえばプレゼンテーション用ソフトウェアであって画面を適宜書き換えるプログラムである。ユーザアプリケーション201は、PC100を用いてプレゼンテーションを行う操作者の指示により画面描画部202に対して画面の書き換え指示を送り、表示装置204に表示する画面を書き換える。
画面描画部202は、ユーザアプリケーション201からの指示を受けてフレームバッファ203に記憶した1画面分の画面情報を、指示に応じて書き換える機能を有する。書き換えた画面の画像は表示装置204にも表示される。画面描画部202は多くの場合、OSの機能と画面描画のためのハードウェアから構成される。画面描画部202へ画面描画のための指示をしたり、フレームバッファ203に記憶された画面の画像情報を取得しようとするときは、PC100上で稼動するOSが用意しているインターフェースを介してアクセスするようになっているのが普通である。
このとき、OSが用意したインターフェースを用いて、あるいは共通に設けられたインターフェースを横取りしてのぞき見る(フッキング)ことによってユーザプログラム201が画面描画部202に指示した画面に対する描画指示を取得することができる。これらの手段により、描画情報取得部206は画面描画部202へ出された描画指示を取得する。
フレームバッファ203は、PC100が表示する1画面分の画像情報を記憶している。ここに記憶されている画像情報は、画面描画部202によって書き換えられる。フレームバッファ203に記憶した画像情報は常時読み出されて表示装置204上に画像として表示される。このような、OSが管理するフレームバッファとは別に画像転送装置205上に同様のフレームバッファを独自に設けても構わない。この場合にはさらに画面描画のための指示を逐次この別途設けたフレームバッファに反映するための仕組みも必要となる。
表示装置204は、PC100に備えられたあるいは別筐体に収められたCRTやLCDといった表示部を指す。本実施形態では画面の表示を書き換え、プロジェクタ102に画面の書き換えのあった部分の画像を送信する装置、たとえばPC100にも表示装置204を備える構成としているが、必ずしもこのような表示装置が必要ということではない。たとえばプロジェクタ102が表示する画面で画面の書き換え結果が直接確認できるか、または画面が書き換わるところを逐次確認する必要がない場合には備えなくとも良い。
画像転送装置205は、画面描画部202やフレームバッファ203から得られる情報を元に、外部の表示装置(例えばプロジェクタ102)に対して送信する画面書き換えの
ための画像情報を作成し送信する機能を有する。以下に構成を説明する。
描画情報取得部206は、画面描画部202より描画指示を取得する機能を有する。描画指示を取得する方法としてはOSの1機能として用意された他のアプリケーションが指示した描画指示を取得するためのインターフェースを用いる方法や、他のアプリケーションが画面描画部202に対して描画指示を与えるためのインターフェースを作為的にのぞき見る方法などが考えられる。PC100の構成や、この上で動くOSの種類により様々な方法が考えられるため、描画指示の取得の方法については特に限定しない。
描画指示の一例としては、画面上への図形の描画、指定位置への予め用意した画像データの表示、指定範囲の消去、ある重なりをもつ図形の表示上の前後関係入替え、などがある。この中には画面上の表示位置と表示範囲の情報を併せ持つものが多い。つまり描画指示に含まれる範囲情報に従えば、その指示で書き換えがされる画面の範囲が特定できることになる。
描画情報バッファ207は、描画情報取得部206で取得した描画指示に含まれる画像データ及び範囲データを記憶する。ここでいう画像データとは、JPEGやGIFあるいはビットマップといった画像を構成するデータを指す。画像データとして画像の大きさやコメント等の付加的な情報をもつ場合もある。一方、範囲データとは、画像が表示される画面上の座標やこの画像が表示される範囲を示す情報を含む。さらに必要であれば描画指示のあった時刻の情報や、コメント等の付加的な情報を含んでも構わない。いずれにしても範囲データは、ある画像データについての座標や範囲についての情報を持つがその対象である画像データ自身を含まないため、画像データと比較して少量の記憶容量で記憶することが可能である。また範囲情報を持たない画像データがあったときは、必要に応じて表示画面全体を描画範囲とする画像データであるとみなすようにしても良い。描画指示に含まれるこれらのデータの総称として描画データと呼ぶこととする。
描画情報バッファ207は、描画指示があった順に描画データを記憶しかつ記憶した順に読み出しが出来るFIFO(First-In First-Out)構造を持った記憶装置からなる。また描画データである画像データや範囲データはそれぞれどのようなデータであるかを示す識別子を持っており、これらデータを識別可能に記憶しておくことができる。また画像データと範囲データとを関連付けて一つの情報として表現したものを範囲画像データと呼ぶこととし、前出の画像データ、範囲データと同様にこれも1つのデータ形式として取り扱えるように記憶することができるものとする。
送信データ作成部208は、描画情報バッファ207に記憶された範囲データや範囲画像データといった描画データおよびフレームバッファ203から画像情報を取得して、プロジェクタ等の外部の表示装置に送信する画像情報を作成する。また、プロジェクタ102に送信する画面情報を作成すると、この画像情報に該当する描画データを描画情報バッファ207から削除する。そして描画情報バッファ207から順次描画指示に該当する描画データを読み出して、送信すべき画像情報を作成することを繰り返す。
データ転送部209は、送信データ作成部208が作成した画像情報を、ネットワーク101を介してプロジェクタ102に送信する。
図3は、本実施形態における画像転送装置205が、取得した描画指示を描画情報バッファ207に記憶するフローの一例を示した図である。
画像転送装置205が描画情報取得部206によって描画指示を受け取ると(ステップS01)、描画情報バッファ207に記憶されている最も古い描画データ、すなわち先頭
の描画データが範囲データか否かを調べる(ステップS02)。このとき、先頭の描画データが範囲データであった場合は、描画指示に含まれる書き換えされる画像の範囲データのみを描画情報バッファ207に追加記憶する(ステップS05)。
描画情報バッファ207に記憶されている先頭の描画データが範囲データでない場合には、ステップS01で受け取った描画指示に含まれる画像データを描画情報バッファ207に追加したときに、その追加後の描画データの全記憶量が所定のしきい値を越えるか否かを判断する(ステップS03)。
ここで所定のしきい値を越えると判断された場合は、描画情報バッファ207に記憶された全ての画像データを削除する(ステップS06)。このとき範囲画像データが記憶されていたときは、この範囲画像データに含まれる画像データも削除対象となる。つまり範囲画像データに含まれる画像データの部分は削除され、描画情報バッファ207内にはこの範囲画像データが範囲データに置き換えられて存続することとなる。削除後は、ステップS01で受け取った描画指示で書き換えられる範囲の情報を範囲データとして描画情報バッファ207に追加記憶する(ステップS05)。
ステップS03でしきい値を越えないとされた場合には、ステップS01で受け取った描画指示から得られる範囲画像データを描画情報バッファ207に追加記憶する(ステップ04)。
画像転送装置205の初期状態では、描画情報バッファ207には何の描画データも記憶されていないから、ステップS04が実行されて範囲画像データ(または画像データ)が追加記憶される。次の描画指示を受けたときも、先に記憶した先頭に相当する描画データが範囲画像データ(または画像データ)であるから、同様にステップS04が実行される。この処理を繰り返すうちに、あるときの描画指示にあたる描画データを描画情報バッファ207に記憶した場合に、その描画データの全記憶量が所定のしきい値を越えることが判明したとする。そのときは画像データ及び範囲画像データの画像データの部分を削除する。すると描画情報バッファ207に記憶した描画データの全記憶量はしきい値をはるかに下回るよう減少する。削除の結果、先頭の描画データが範囲データとなるために、これ以降はステップS01、S02,S05のように処理されて描画指示による書き換え範囲を示す範囲データのみを記憶していくことになる。
このように構成すると、プロジェクタ102へ送信する画像情報の伝送が間に合わない事態が発生した場合でも、描画情報バッファ207に可能な限り画面の書き換え過程の情報を温存することができる。そして描画情報バッファ207に設けた記憶量のしきい値を超えたときには、描画データとして範囲データだけでも温存しておけばこれら情報から途中の表示過程を省略した最終の画像情報を作成することが可能である。このようにすると描画情報バッファ207の記憶容量をしきい値以下に制限できると共に、書き換え過程における画像情報の伝送を省略できるため、遅延が発生していた表示画面の書き換えを迅速に完了することができる。さらに、上記のしきい値の大小を許容可能な遅延時間となるように設定すれば、表示の書き換えにかかる許容遅延時間を調整することができる。
図4は、本実施形態における画像転送装置205が、プロジェクタ102に送信する画像情報を作成するフローの一例を示した図である。
まず描画情報バッファ207の最も古い、先頭に記憶された描画データを調べる(ステップS11)。結果、これが範囲データか否かにより以降の処理を決定する(ステップS12)。
先頭の描画データが範囲データでなかった場合、画像データの場合を含む先頭の範囲画像データを取得する(ステップS15)。すると送信データ作成部208は、取得した範囲画像データをもとにプロジェクタ102に送信する画像情報を作成して送信する(ステップS16)。先頭の更新データが画像データだったときは画像情報には画面に表示すべき画像のデータが含まれ、範囲画像データであったときはさらに画面上の表示位置を含む範囲の情報も含まれるように作成される。そしてステップS16で送信された画像情報のもととなった描画データを、描画情報バッファ207から削除する(ステップS17)。
ステップS12で先頭の描画データが範囲データと判断された場合、描画情報バッファ207に記憶された全ての範囲データをもとに、これら範囲データが示す全範囲を特定する(ステップS13)。範囲の特定に際しては、描画データが書き換える画面上の範囲の和を求める。つまり一つでも範囲データが指し示す範囲は、全てここでいう全範囲に含まれなければならない。次に現在の1画面分の表示情報を記憶しているフレームバッファ203から、求めた全範囲に該当する画像データを抽出する(ステップS14)。画像データの抽出に際しては求めた全範囲を矩形で区切り、各区切りごとに画像データを抽出するなどの方法が考えられるが、以降扱うデータ量を削減するという意味からも区切った範囲が重複しないように区切るようにした方が好ましい。上記のようにして抽出した画像データは送信データ作成部208でプロジェクタ102に送信するための画像情報となり、プロジェクタ102に送信される(ステップS16)。このように範囲データのみから画像情報を作成したときは、全範囲の特定に用いた全ての範囲データを描画情報バッファ208から削除する(ステップS17)。ステップS17が実行されるときは図3のフローに基づくと範囲データしか記憶されていないはずなので、全ての描画データが削除され描画情報バッファ207は初期状態に戻る。
この一連の流れは、描画情報バッファ207に描画データがなくなるまで繰り返される。
描画データに記憶するとき、または画像情報を作成するときに、描画情報バッファ207に記憶した先頭の描画データが範囲データか否かを判断する必要があるかといえば、先頭の描画データが範囲データならば描画情報バッファ207には範囲データしか記憶されていないことを意味するからである。図3に示す描画データの記憶フローに従えば、初期状態では常に先頭は範囲画像データ(又は画像データ)になる。先頭の描画データが範囲データになるのはステップS03でしきい値を越えた場合であり、全ての画像データが削除された後である。描画データのうち過去の描画指示に基づく画像データが削除され範囲データのみになっているときは、すでに画面の書換遅延が許容範囲を越えていることになるので以降の描画指示に含まれる画像データは送信する機会がなく、よって記憶する必要がない。一方、図4に示す画像情報の作成フローでは、先頭の描画データが範囲データとなっているのであればすでに過去の画面書き換えによる画像データが送信されずに削除されたことを意味するので、すでに画面の描画手順を再現することが出来ないのであるから描画データを順次画像情報として送信する意味がないことに基づいている。
このように構成すると、不必要に大きな描画情報バッファを持つ必要がなく、また描画指示に基づく画像データを記憶していない場合であっても、最終的な画面を表示させるための画像情報を作成することが可能となる。
(第1の実施形態の変形例)
画像転送装置205が描画データを記憶するとき、あるいは画像情報を作成するときの、フローの選択についての判断を次のようにすることもできる。
図3に示したステップS02の判断では、先頭の描画データが範囲データか否かを調べ
ている。この判断を、最後に記憶した描画データ、すなわち末尾の描画データが範囲データか否かを調べるように構成することができる。
あるいは図4に示したステップS11における、描画情報バッファ207に記憶された描画データを調べる際に、先頭に記憶された描画データではなく、末尾に記憶された描画データを調べるように構成することもできる。
これは図3に示す、描画データの全記憶量が所定のしきい値を越えるか否かを判断するステップS03が、所定のしきい値を越えると判断すると、最終的な画面を表示させるための描画情報を作成しない限り、以降、描画情報バッファ207に記憶される描画データは範囲データのみとなるからである。よってステップS02及びステップS11の調べる描画データは、描画情報バッファ207に記憶された描画データの末尾のものであっても構わない。
上記に示した以外のフロー及び構成は、第1の実施形態のものと同様に構成できる。
(第2の実施形態)
本実施形態における画像表示システムは、第1の実施形態で示した画像表示システムと同様であるが、描画情報バッファ207に記憶された描画データの記憶量をより削減することを可能とするものである。第1の実施形態と相違する部分について詳しく説明する。
図3で示す、本実施形態にかかる画像転送装置205が、取得した描画指示を描画情報バッファ207に記憶するフローを実行する際に、さらに図5に示す処理を実行する。
図5は、本実施形態にかかる画像転送装置205が、描画情報バッファ207に記憶した描画データの記憶量を削減するために行うフローの一例である。前提として、描画情報バッファ207に記憶される範囲画像データについての、少なくとも描画指示があった時刻を取得することが出来るものとする。たとえば範囲画像データに上記時刻を含むようにしても良いし、描画情報バッファ207自身がこれらを記憶した時刻を管理するようになっていても良い。
画像転送装置205が描画情報バッファ205に範囲画像データを記憶する際、描画情報バッファ205内に記憶されている範囲画像データのうち、互いに範囲が重なり合う部分があるものを探す(ステップS21)。一部でも範囲が重なる範囲画像データが見つからなければ処理を終了する。
重なり合う部分を持つ範囲画像データが見つかった場合には(ステップS22)、その範囲画像データの描画指示があった時刻を取得する。そして取得した時刻と、最後に記憶した範囲画像データの描画指示のあった時刻との時間差を求める(ステップS23)。求めた時間差が予め設定したしきい値より大きい場合には何も行わずに処理を終了する。
求めた時間差が予め設定したしきい値以下であった場合(ステップS24)は、過去に記憶された方の範囲画像データから、最後に記憶した範囲画像データが示す範囲と重なり合う部分に相当する画像部分のデータを削除する(ステップS25)。この画像部分のデータの削除は画像データから重複する画像部分のデータを削除するだけであり、削除を受けた範囲画像データそのものは削除されない。しかしながら画像データが変更を受けるので、範囲画像データに含まれる範囲データについても変更が必要である。あるいは重複部分を削除するのではなく画像情報の伝送容量が少なくなるように、その画質を下げ画像データの容量を削減するようにしても良い。
あるいはこれらの処理にかかるコストを考慮して、重複する画像部分が、全て最後に記憶した範囲画像データの範囲に含まれる場合にのみ、過去に記憶した方の範囲画像データを変更するように構成することも可能である。
描画情報バッファ207に重複する画像部分を持つ範囲画像データがあれば、以前に記憶した範囲画像データで更新される画像のうち重なり合う部分は、それより後の範囲画像データで上書きされる。この点に鑑みれば以前の更新で描画される重複部分の画像データは敢えて送信する必要は無いが、単にこのように処理してしまうと、たとえば重複部分を描画するはずの以後の範囲更新データが遅れて届いたときに以前の描画が不自然な状態で表示される期間が無視できなくなってくる。すると画面の遷移が乱されて画面書き換えの過程が分かりづらくなり、プレゼンテーションそのものに支障を来たすことにもなりかねない。そこで本実施形態では、たとえ重複する画像データがあったとしてもステップS24で描画指示のあった時刻の時間差をもとに所定のしきい値により重複部分の画像データの削除を制限することで、この問題を緩和した。しきい値を適切に定めることで、短期間に頻繁に書き換えが行われるような視聴者が気にならない範囲の描画データのみに限定することが出来る。
このように構成すると描画情報バッファ207に記憶する描画データの量を削減することが可能となるばかりでなく、プロジェクタ102へ送信する画像情報の伝送量を削減しネットワーク101による伝送遅延を緩和することができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
第1の実施形態における画像表示システムの一例を示す図 第1の実施形態における画像転送装置のブロック構成図の一例を示す図 第1の実施形態における取得した描画指示を記憶するフローの一例を示す図 第1の実施形態における画像情報を作成するフローの一例を示した図 第2の実施形態における描画データの記憶量を削減するフローの一例を示す図
符号の説明
100:PC(画像転送装置)
101:ネットワーク
102:プロジェクタ
201:ユーザアプリケーション
202:画面描画部
203:フレームバッファ
204:表示装置
205:画像転送装置
206:描画情報取得部
207:描画情報バッファ
208:送信データ作成部
209:データ転送部

Claims (24)

  1. 画像データ及び該画像データが表示される画面上の範囲を示す範囲データとを、それぞれが識別可能にかつ記憶した順に読み出せるように記憶する描画情報バッファと、
    画面を書き換えるための描画指示を取得して、該描画指示に含まれる画像データ及び範囲データを前記描画情報バッファに記憶する描画情報取得手段と、
    前記描画情報バッファに記憶した範囲データと画像データ、または範囲データと画面の画像情報を用いて、前記描画指示による書き換え後の画面と同様の画面表示が得られる画面書換指示を作成するデータ作成手段と、
    前記データ作成手段が作成した画面書換指示を他の装置に送信する送信手段と
    を備え、
    前記データ作成手段は、前記描画情報バッファ内のデータの記憶状況に応じて、前記画面書換指示の作成に用いるデータの組み合わせを変えることを特徴とする画像転送装置。
  2. 前記描画情報取得手段は、前記描画情報バッファに記憶したデータ量が予め定めたしきい値に満たない場合には、取得した前記描画指示に基づく画像データと範囲データとを記憶し、一方、しきい値を越えた場合には、前記描画情報バッファに記憶した画像データの全てを削除し、以降前記描画情報バッファに記憶したデータの先頭が範囲データである限り画像データを除く範囲データを記憶し、
    前記データ作成手段は、前記描画情報バッファの先頭に記憶されたデータが画像データであった場合は、当該画像データと該画像データの書き換え範囲を示す範囲データとから前記画面書換指示を作成し、該画面書換指示の作成に用いた画像データ及び範囲データを削除し、一方、先頭が範囲データであった場合には、前記描画情報バッファに記憶された範囲データの全てから画面が更新された全ての画面範囲を特定し、画面上の該特定した画面範囲に相当する画像情報を取得することで前記画面書換情報を作成し、該画面書換情報の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項1に記載の画像転送装置。
  3. 前記描画情報取得手段は、前記描画情報バッファに記憶したデータ量が予め定めたしきい値に満たない場合には、取得した前記描画指示に基づく画像データと範囲データとを記憶し、一方、しきい値を越えた場合には、前記描画情報バッファに記憶した画像データの全てを削除し、以降前記描画情報バッファに記憶したデータの末尾が範囲データである限り画像データを除く範囲データを記憶し、
    前記データ作成手段は、前記描画情報バッファの末尾に記憶されたデータが画像データであった場合は、当該画像データと該画像データの書き換え範囲を示す範囲データとから前記画面書換指示を作成し、該画面書換指示の作成に用いた画像データ及び範囲データを削除し、一方、末尾が範囲データであった場合には、前記描画情報バッファに記憶された範囲データの全てから画面が更新された全ての画面範囲を特定し、画面上の該特定した画面範囲に相当する画像情報を取得することで前記画面書換情報を作成し、該画面書換情報の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項1に記載の画像転送装置。
  4. 前記描画情報取得手段は、取得した前記描画指示に含まれる画像データと範囲データとを記憶し、前記描画情報バッファに記憶したデータ量が予め定めたしきい値を越える場合には、前記描画情報バッファに記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像データを含まないように編集する
    ことを特徴とする請求項1に記載の画像転送装置。
  5. 前記描画情報取得手段は、取得した前記描画指示に含まれる画像データと範囲データと
    を記憶し、前記描画情報バッファに記憶したデータ量が予め定めたしきい値を越える場合には、前記描画情報バッファに記憶した画像データのうち書き換え範囲が重なる画像データを選択し、該選択した画像データについて最新の画像データと重なる部分の画像の解像度がより低くなるように編集する
    ことを特徴とする請求項1に記載の画像転送装置。
  6. 前記描画情報取得手段は、書き換え範囲が重なる画像データを選択したとき、この選択した画像データについての描画指示があった時刻と最新の画像データについての描画指示があった時刻との差が予め定めた時間間隔未満の場合に、この選択した画像データを編集することを特徴とする請求項4または5に記載の画像転送装置。
  7. 画像メモリに記憶された1画面分に相当する画像情報の全部または一部を書き換える描画指示を取得し、
    取得した前記描画指示に含まれる、表示すべき画像データ及び該画像データが表示される画面上の範囲を示す範囲データとを、それぞれが識別可能にかつ記憶した順に読み出せるように記憶し、
    前記画像メモリに記憶された画像情報に対する前記描画指示に基づいて画面が書き換えられた後の画面と同様の画面表示が得られるように、記憶した画像データ及び範囲データの記憶状況に応じて、範囲データと画像データを1更新指示ごとに順次読み出すか、または範囲データと前記画像メモリに記憶した画像情報を読み出して画面書換指示を作成し、
    作成した前記画面書換指示を他の装置に送信する
    ことを特徴とする画像転送方法。
  8. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データの全てを削除し、
    次に描画指示を記憶するときは、以降記憶しているデータの先頭が範囲データである限り画像データを除く範囲データを記憶し、
    画面書換指示を作成するとき、先頭に記憶したデータが範囲データであった場合に、記憶した範囲データの全てから画面が書き換えられた全ての画面範囲を特定し、該特定した画面範囲に相当する画像情報を前記画像メモリから取得して前記画面書換指示を作成し、該画面書換指示の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項7に記載の画像転送方法。
  9. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データの全てを削除し、
    次に描画指示を記憶するときは、以降記憶しているデータの末尾が範囲データである限り画像データを除く範囲データを記憶し、
    画面書換指示を作成するとき、末尾に記憶したデータが範囲データであった場合に、記憶した範囲データの全てから画面が書き換えられた全ての画面範囲を特定し、該特定した画面範囲に相当する画像情報を前記画像メモリから取得して前記画面書換指示を作成し、該画面書換指示の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項7に記載の画像転送方法。
  10. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像データを含まないように編集する
    ことを特徴とする請求項7に記載の画像転送方法。
  11. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい
    値を越える場合には、記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像の解像度がより低くなるように編集する
    ことを特徴とする請求項7に記載の画像転送方法。
  12. 書き換え範囲が重なる画像データを選択したとき、この選択した画像データについての描画指示があった時刻と最新の画像データについての描画指示があった時刻との差が予め定めた時間間隔未満の場合に、この選択した画像データを編集することを特徴とする請求項10または11に記載の画像転送方法。
  13. 画像メモリに記憶された1画面分に相当する画像情報の全部または一部を書き換える描画指示を取得するステップと、
    取得した前記描画指示に含まれる、表示すべき画像データ及び該画像データが表示される画面上の範囲を示す範囲データとを、それぞれが識別可能にかつ記憶した順に読み出せるように記憶するステップと、
    前記画像メモリに記憶された画像情報に対する前記描画指示に基づいて画面が書き換えられた後の画面と同様の画面表示が得られるように、記憶した画像データ及び範囲データの記憶状況に応じて、範囲データと画像データを1更新指示ごとに順次読み出すか、または範囲データと前記画像メモリに記憶した画像情報を読み出して画面書換指示を作成するステップと、
    作成した前記画面書換指示を他の装置に送信するステップと
    を有することを特徴とする計算機で実行可能な画像転送プログラム。
  14. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データの全てを削除するステップと、
    次に描画指示を記憶するときは、以降記憶しているデータの先頭が範囲データである限り画像データを除く範囲データを記憶するステップと、
    画面書換指示を作成するとき、先頭に記憶したデータが範囲データであった場合に、記憶した範囲データの全てから画面が書き換えられた全ての画面範囲を特定し、該特定した画面範囲に相当する画像情報を前記画像メモリから取得して前記画面書換指示を作成し、該画面書換指示の作成に用いた全ての範囲データを削除するステップと
    をさらに有することを特徴とする請求項13に記載の画像転送プログラム。
  15. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データの全てを削除するステップと、
    次に描画指示を記憶するときは、以降記憶しているデータの末尾が範囲データである限り画像データを除く範囲データを記憶するステップと、
    画面書換指示を作成するとき、末尾に記憶したデータが範囲データであった場合に、記憶した範囲データの全てから画面が書き換えられた全ての画面範囲を特定し、該特定した画面範囲に相当する画像情報を前記画像メモリから取得して前記画面書換指示を作成し、該画面書換指示の作成に用いた全ての範囲データを削除するステップと
    をさらに有することを特徴とする請求項13に記載の画像転送プログラム。
  16. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい値を越える場合には、記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像データを含まないように編集するステップと
    をさらに有することを特徴とする請求項13に記載の画像転送プログラム。
  17. 描画指示を取得するとき、記憶した画像データ及び範囲データの量が予め定めたしきい
    値を越える場合には、記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像の解像度がより低くなるように編集するステップと
    をさらに有することを特徴とする請求項13に記載の画像転送プログラム。
  18. 書き換え範囲が重なる画像データを選択したとき、この選択した画像データについての描画指示があった時刻と最新の画像データについての描画指示があった時刻との差が予め定めた時間間隔未満の場合に、この選択した画像データを編集することを特徴とする請求項16または17に記載の画像転送プログラム。
  19. 1画面分に相当する画像情報を記憶した画像メモリと、
    ユーザアプリケーションから前記画面を書き換えるための描画指示を受けて、該描画指示に基づいて前記画像メモリに記憶した画像情報を書き換える画面描画手段と、
    表示すべき画像データ及び該画像データが表示される画面上の範囲を示す範囲データとを、それぞれが識別可能にかつ記憶した順に読み出せるように記憶する描画情報バッファと、
    前記描画指示を取得して、該描画指示に含まれる画像データ及び範囲データを前記描画情報バッファに記憶する描画情報取得手段と、
    前記描画情報バッファに記憶した範囲データと画像データ、または範囲データと前記画像メモリに記憶した画像情報を用いて、前記画面に対して行った描画指示による書き換え後の画面と同様の画面表示が得られる画面書換指示を作成するデータ作成手段と、
    前記データ作成手段が作成した画面書換指示を他の装置に送信する送信手段と
    を備え、
    前記データ作成手段は、前記描画情報バッファ内のデータの記憶状況に応じて、前記画面書換指示の作成に用いるデータの組み合わせを変えることを特徴とする計算機。
  20. 前記描画情報取得手段は、前記描画情報バッファに記憶したデータ量が予め定めたしきい値に満たない場合には、取得した前記描画指示に基づく画像データと範囲データとを記憶し、一方、しきい値を越えた場合には、前記描画情報バッファに記憶した画像データの全てを削除し、以降前記描画情報バッファに記憶したデータの先頭が範囲データである限り画像データを除く範囲データを記憶し、
    前記データ作成手段は、前記描画情報バッファの先頭に記憶されたデータが画像データであった場合は、当該画像データと該画像データの書き換え範囲を示す範囲データとから前記画面書換指示を作成し、該画面書換指示の作成に用いた画像データ及び範囲データを削除し、一方、先頭が範囲データであった場合には、前記描画情報バッファに記憶された範囲データの全てから画面が更新された全ての画面範囲を特定し、該特定した画面範囲に相当する画像情報を前記画像メモリから前記画像描画手段を介して取得することで前記画面書換情報を作成し、該画面書換情報の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項19に記載の計算機。
  21. 前記描画情報取得手段は、前記描画情報バッファに記憶したデータ量が予め定めたしきい値に満たない場合には、取得した前記描画指示に基づく画像データと範囲データとを記憶し、一方、しきい値を越えた場合には、前記描画情報バッファに記憶した画像データの全てを削除し、以降前記描画情報バッファに記憶したデータの末尾が範囲データである限り画像データを除く範囲データを記憶し、
    前記データ作成手段は、前記描画情報バッファの末尾に記憶されたデータが画像データであった場合は、当該画像データと該画像データの書き換え範囲を示す範囲データとから前記画面書換指示を作成し、該画面書換指示の作成に用いた画像データ及び範囲データを削除し、一方、末尾が範囲データであった場合には、前記描画情報バッファに記憶された範囲データの全てから画面が更新された全ての画面範囲を特定し、該特定した画面範囲に
    相当する画像情報を前記画像メモリから前記画像描画手段を介して取得することで前記画面書換情報を作成し、該画面書換情報の作成に用いた全ての範囲データを削除する
    ことを特徴とする請求項19に記載の計算機。
  22. 前記描画情報取得手段は、取得した前記描画指示に含まれる画像データと範囲データとを記憶し、前記描画情報バッファに記憶したデータ量が予め定めたしきい値を越える場合には、前記描画情報バッファに記憶された画像データのうち書き換え範囲が重なる画像データを選択し、選択した画像データについて最新の画像データと重なる部分の画像データを含まないように編集する
    ことを特徴とする請求項19に記載の計算機。
  23. 前記描画情報取得手段は、取得した前記描画指示に含まれる画像データと範囲データとを記憶し、前記描画情報バッファに記憶したデータ量が予め定めたしきい値を越える場合には、前記描画情報バッファに記憶した画像データのうち書き換え範囲が重なる画像データを選択し、該選択した画像データについて最新の画像データと重なる部分の画像の解像度がより低くなるように編集する
    ことを特徴とする請求項19に記載の計算機。
  24. 前記描画情報取得手段は、書き換え範囲が重なる画像データを選択したとき、この選択した画像データについての描画指示があった時刻と最新の画像データについての描画指示があった時刻との差が予め定めた時間間隔未満の場合に、この選択した画像データを編集することを特徴とする請求項22または23に記載の計算機。
JP2004056161A 2004-03-01 2004-03-01 画像転送装置、画像転送方法、画像転送プログラム及び計算機 Expired - Fee Related JP4030511B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004056161A JP4030511B2 (ja) 2004-03-01 2004-03-01 画像転送装置、画像転送方法、画像転送プログラム及び計算機

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004056161A JP4030511B2 (ja) 2004-03-01 2004-03-01 画像転送装置、画像転送方法、画像転送プログラム及び計算機

Publications (2)

Publication Number Publication Date
JP2005249841A true JP2005249841A (ja) 2005-09-15
JP4030511B2 JP4030511B2 (ja) 2008-01-09

Family

ID=35030403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004056161A Expired - Fee Related JP4030511B2 (ja) 2004-03-01 2004-03-01 画像転送装置、画像転送方法、画像転送プログラム及び計算機

Country Status (1)

Country Link
JP (1) JP4030511B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009123152A (ja) * 2007-11-19 2009-06-04 Seiko Epson Corp 表示装置及びプログラム
US7817156B2 (en) 2004-06-11 2010-10-19 Seiko Epson Corporation Image transfer using drawing command hooking
US8223834B2 (en) 2006-10-31 2012-07-17 Kabushiki Kaisha Toshiba Communication apparatus and control method for communication apparatus
JP2013123231A (ja) * 2012-12-28 2013-06-20 Casio Comput Co Ltd 表示端末装置及びプログラム
JP2013235191A (ja) * 2012-05-10 2013-11-21 Funai Electric Co Ltd 表示装置および表示システム
JP2014164369A (ja) * 2013-02-22 2014-09-08 Nec Corp リモートデスクトップシステム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03242686A (ja) * 1990-02-21 1991-10-29 Hitachi Ltd 大型液晶表示装置およびその表示方法
JPH05249951A (ja) * 1992-03-06 1993-09-28 Mitsubishi Electric Corp 画像情報提示装置
JP2001103491A (ja) * 1999-07-16 2001-04-13 Sony Corp 送信装置、受信装置、およびこれらを用いた信号伝送システム
JP2003050694A (ja) * 2001-05-31 2003-02-21 Matsushita Electric Ind Co Ltd プレゼンテーションシステム、画像表示装置、プログラム及び記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03242686A (ja) * 1990-02-21 1991-10-29 Hitachi Ltd 大型液晶表示装置およびその表示方法
JPH05249951A (ja) * 1992-03-06 1993-09-28 Mitsubishi Electric Corp 画像情報提示装置
JP2001103491A (ja) * 1999-07-16 2001-04-13 Sony Corp 送信装置、受信装置、およびこれらを用いた信号伝送システム
JP2003050694A (ja) * 2001-05-31 2003-02-21 Matsushita Electric Ind Co Ltd プレゼンテーションシステム、画像表示装置、プログラム及び記録媒体

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7817156B2 (en) 2004-06-11 2010-10-19 Seiko Epson Corporation Image transfer using drawing command hooking
US8416249B2 (en) 2004-06-11 2013-04-09 Seiko Epson Corporation Image transfer using drawing command hooking
US8223834B2 (en) 2006-10-31 2012-07-17 Kabushiki Kaisha Toshiba Communication apparatus and control method for communication apparatus
US8432966B2 (en) 2006-10-31 2013-04-30 Kabushiki Kaisha Toshiba Communication apparatus and control method for communication apparatus
CN102710942B (zh) * 2006-10-31 2015-05-20 株式会社东芝 通信装置和通信装置控制方法
JP2009123152A (ja) * 2007-11-19 2009-06-04 Seiko Epson Corp 表示装置及びプログラム
JP2013235191A (ja) * 2012-05-10 2013-11-21 Funai Electric Co Ltd 表示装置および表示システム
JP2013123231A (ja) * 2012-12-28 2013-06-20 Casio Comput Co Ltd 表示端末装置及びプログラム
JP2014164369A (ja) * 2013-02-22 2014-09-08 Nec Corp リモートデスクトップシステム

Also Published As

Publication number Publication date
JP4030511B2 (ja) 2008-01-09

Similar Documents

Publication Publication Date Title
JP4926601B2 (ja) 映像配信システム、クライアント端末及びその制御方法
US8795089B2 (en) Game device, image processing method, and information recording medium
JP2007206644A (ja) 画像表示システム,画像表示方法,画像表示プログラム,記録媒体,データ処理装置,画像表示装置
US20080068562A1 (en) Image processing system, image processing method, and program product therefor
US9019384B2 (en) Information processing apparatus and control method thereof
JP2005080239A (ja) 画像表示プログラム、画像表示装置、画像表示方法
JP4498259B2 (ja) 投影装置、携帯通信装置、投影方法および投影制御プログラム
US20090094534A1 (en) Server apparatus and control method of server apparatus
JP3385320B2 (ja) アニメーション再生端末、アニメーションの再生方法、および、そのプログラム
JP2003050694A (ja) プレゼンテーションシステム、画像表示装置、プログラム及び記録媒体
JP5212593B2 (ja) プロジェクタ、投写システムおよび投写方法
JP2004234624A (ja) 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体
JP4030511B2 (ja) 画像転送装置、画像転送方法、画像転送プログラム及び計算機
JP5853003B2 (ja) 画面共有端末、画面共有方法、画面共有端末用プログラム
US8248489B2 (en) Image playback device, camera and image playback system
US9311042B2 (en) Display controlling apparatus and image processing apparatus
JP2009129362A (ja) 色処理装置およびその方法
JP3954581B2 (ja) 情報転送装置、情報転送方法及びプログラム
JP2007025862A (ja) 画像処理装置
JP2015015699A (ja) 画像処理装置、情報処理方法及びプログラム
JP2019129466A (ja) 映像表示装置
JP7229842B2 (ja) 情報処理装置
JP2003134342A (ja) 画像処理装置、その処理方法及びそのプログラム
JP4770455B2 (ja) 表示態様設定システム、表示態様設定装置、表示態様設定方法及び表示態様設定処理プログラム
JP2006148767A (ja) 映像配信システム、映像配信装置、映像受信装置、映像配信装置の通信方法、映像受信装置の表示方法、プログラム、及び記憶媒体

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050606

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070703

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070904

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071016

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101026

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111026

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111026

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121026

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131026

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees