JP2013126242A - スクリーン映像伝送システム - Google Patents

スクリーン映像伝送システム Download PDF

Info

Publication number
JP2013126242A
JP2013126242A JP2011275949A JP2011275949A JP2013126242A JP 2013126242 A JP2013126242 A JP 2013126242A JP 2011275949 A JP2011275949 A JP 2011275949A JP 2011275949 A JP2011275949 A JP 2011275949A JP 2013126242 A JP2013126242 A JP 2013126242A
Authority
JP
Japan
Prior art keywords
target
unit
operation information
video
transmission request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011275949A
Other languages
English (en)
Inventor
Hironobu Abe
博信 阿倍
Takehisa Kawaura
健央 川浦
Toshi Yamada
敏志 山田
Shingo Mine
慎吾 峯
Yuki Kawano
裕希 川野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2011275949A priority Critical patent/JP2013126242A/ja
Publication of JP2013126242A publication Critical patent/JP2013126242A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】操作メニューが表示されている領域の映像を受信することなく、モバイル受信端末側でアプリケーションを操作することができるようにする。
【解決手段】アプリケーションの操作を受け付ける操作ボタンをタッチパネル25に表示するタッチパネル制御部24と、その操作ボタンに対するユーザ操作を検知し、そのユーザ操作をアプリケーションの操作情報に変換する制御用GUI部23と、制御用GUI部23により変換された操作情報をターゲットPC1に送信する映像伝送要求送信部21とを備え、ターゲットPC1が、モバイル受信端末5から操作情報を受信すると、その操作情報にしたがってアプリケーションを制御する。
【選択図】図1

Description

この発明は、ターゲットPCが表示しているスクリーン映像をネットワーク経由でモバイル受信端末に伝送し、モバイル受信端末が当該スクリーン映像を表示するスクリーン映像伝送システムに関するものである。
一般的なスクリーン映像伝送システムでは、受信端末が定期的に映像伝送要求を送信端末に送信し、送信端末が映像伝送要求の応答として、現在表示中の全画面をスクリーン映像として受信端末に伝送するようにしている。
近年、モバイルネットワークの普及により、高解像度のPC(送信端末)と低解像度のモバイル受信端末(受信端末)の間で、スクリーン映像の伝送が行われるようになっている。
この場合、低解像度のモバイル受信端末では、高解像度のPCに表示されているスクリーン映像を受信しても、そのスクリーン映像をそのまま表示することはできないので、そのスクリーン映像から映像の一部を切り出して表示する処理、あるいは、そのスクリーン映像を縮小して表示する処理などが行われる。
以下の特許文献1に開示されているスクリーン映像伝送システムでは、低解像度の受信端末が映像伝送要求を高解像度の送信端末に送信する際、表示を希望する矩形領域を示す情報を送信端末に送信するようにしている。
この場合、送信端末は、現在表示中のスクリーン映像から上記矩形領域の映像を抽出し、その矩形領域の映像を受信端末に送信する。
そして、受信端末は、送信端末から送信された矩形領域の映像を受信して、その映像を表示する。
特開2004−64140号公報(段落番号[0016]、図1)
従来のスクリーン映像伝送システムは以上のように構成されているので、例えば、送信端末に表示されているスクリーン映像中に、アプリケーションの操作に関するメニューが表示されているとき、そのメニューが表示されている領域以外の矩形領域を示す情報が映像伝送要求と一緒に送信された場合、そのメニューが表示されている領域の映像は受信端末に送信されない。このため、受信端末では、アプリケーションを操作することができなくなる課題があった。
また、アプリケーションの操作に関するメニューが表示されている領域の映像が受信端末に送信されて、その領域の映像が表示された場合でも、送信端末の入力手段(マウス、キーボード)と、受信端末の入力手段(タッチパネル)が異なる場合、入力方式の違いが原因で、アプリケーションを操作することができない課題があった。
この発明は上記のような課題を解決するためになされたもので、アプリケーションの操作に関するメニューが表示されている領域の映像を受信することなく、ユーザがモバイル受信端末側でアプリケーションを操作することができるスクリーン映像伝送システムを得ることを目的とする。
この発明に係るスクリーン映像伝送システムは、モバイル受信端末が、所望の矩形領域を示す領域情報を含む映像伝送要求をターゲットPCに送信する映像伝送要求手段と、ターゲットPCから送信された矩形領域の映像を受信する映像受信手段と、映像受信手段により受信された矩形領域の映像をタッチパネルに表示するとともに、アプリケーションの操作を受け付ける操作ボタンをタッチパネルに表示する表示手段と、タッチパネルに表示されている操作ボタンに対するユーザ操作を検知するユーザ操作検知手段と、ユーザ操作検知手段により検知されたユーザ操作をアプリケーションの操作情報に変換して、その操作情報をターゲットPCに送信する操作情報送信手段とを備え、ターゲットPCが、モバイル受信端末から操作情報を受信すると、その操作情報にしたがってアプリケーションを制御するようにしたものである。
この発明によれば、モバイル受信端末が、所望の矩形領域を示す領域情報を含む映像伝送要求をターゲットPCに送信する映像伝送要求手段と、ターゲットPCから送信された矩形領域の映像を受信する映像受信手段と、映像受信手段により受信された矩形領域の映像をタッチパネルに表示するとともに、アプリケーションの操作を受け付ける操作ボタンをタッチパネルに表示する表示手段と、タッチパネルに表示されている操作ボタンに対するユーザ操作を検知するユーザ操作検知手段と、ユーザ操作検知手段により検知されたユーザ操作をアプリケーションの操作情報に変換して、その操作情報をターゲットPCに送信する操作情報送信手段とを備え、ターゲットPCが、モバイル受信端末から操作情報を受信すると、その操作情報にしたがってアプリケーションを制御するように構成したので、モバイル受信端末が、アプリケーションの操作に関するメニューが表示されている領域の映像を受信することなく、ユーザがモバイル受信端末側でアプリケーションを操作することができる効果がある。
この発明の実施の形態1によるスクリーン映像伝送システムを示す構成図である。 この発明の実施の形態1によるスクリーン映像伝送システムにおけるスクリーン映像の伝送処理を示すフローチャートである。 この発明の実施の形態1によるスクリーン映像伝送システムにおけるアプリケーションの制御処理を示すフローチャートである。 矩形領域を示す領域情報の一例を示す説明図である。 表示制御部14により現在表示されているスクリーン映像から抽出される矩形領域の映像を示す説明図である。 タッチパネル25に表示されている操作ボタンの一例を示す説明図である。 ユーザ操作とマウス操作の対応関係を示す変換テーブルの一例を示す説明図である。 ターゲットPC1のマウス3によって、アプリケーションの操作が可能な操作ボタン「c1」〜「c5」を示す説明図である。 ユーザ操作とキーボード操作の対応関係を示す変換テーブルの一例を示す説明図である。 この発明の実施の形態2によるスクリーン映像伝送システムを示す構成図である。 この発明の実施の形態2によるスクリーン映像伝送システムにおけるウィンドウの取得処理を示すフローチャートである。 この発明の実施の形態2によるスクリーン映像伝送システムにおけるスクリーン映像の伝送処理を示すフローチャートである。 この発明の実施の形態2によるスクリーン映像伝送システムにおけるアプリケーションの制御処理を示すフローチャートである。 ウィンドウの一覧表を示す説明図である。 操作ボタン「c1」〜「c5」がスクリーン映像の表示領域r1上に透過表示されている例を示す説明図である。
実施の形態1.
図1はこの発明の実施の形態1によるスクリーン映像伝送システムを示す構成図である。
図1において、ターゲットPC1は例えばアプリケーションを実行するCPU、画像処理を実施するMPU、ネットワークに対するインタフェース機器及びアプリケーションや演算結果などを格納するメモリなどから構成されている高解像度のコンピュータであり、ターゲットPC1にはキーボード2やマウス3などの入力手段のほか、液晶ディスプレイなどの表示装置4が接続されている。
ターゲットPC1はアプリケーションを実行してスクリーン映像を表示装置4に表示し、そのスクリーン映像内の矩形領域を示す領域情報を含む映像伝送要求を受信すると、現在表示中のスクリーン映像から上記映像伝送要求に含まれている領域情報が示す矩形領域の映像を抽出して、その矩形領域の映像をネットワーク経由でモバイル受信端末5に送信する処理などを実施する。
上述したターゲットPC1のハードウェア構成は一例に過ぎず、他のハードウェア構成でもよい。例えば、MPUの処理をCPUが兼ねるようにすれば、MPUは不要である。
モバイル受信端末5は例えば各種の処理を実行するCPU、画像処理を実施するMPU、ネットワークに対するインタフェース機器、CPUが実行するプログラムや処理結果などを格納するメモリ及び入出力インタフェースであるタッチパネルなどから構成されている低解像度のコンピュータであり、モバイル受信端末5は映像伝送要求をネットワーク経由でターゲットPC1送信して、ターゲットPC1から矩形領域の映像を受信し、その矩形領域の映像をタッチパネルに表示する処理などを実施する。
上述したモバイル受信端末5のハードウェア構成は一例に過ぎず、他のハードウェア構成でもよい。例えば、MPUの処理をCPUが兼ねるようにすれば、MPUは不要である。
ターゲットPC1の映像伝送要求受信部11は例えばネットワークに対するインタフェース機器から構成されており、モバイル受信端末5から送信された領域情報を含む映像伝送要求や、アプリケーションの操作情報を含む映像伝送要求を受信する処理を実施する。
入出力制御部12は例えばCPUなどから構成されており、キーボード2又はマウス3から入力された操作情報及び映像伝送要求受信部11により受信された映像伝送要求に含まれているアプリケーションの操作情報をアプリケーション実行部13に出力するとともに、映像伝送要求受信部11により受信された領域情報を含む映像伝送要求をスクリーン映像送信部15に出力する処理を実施する。
アプリケーション実行部13は例えばCPUなどから構成されており、メモリに格納されているアプリケーションを実行し、その実行結果を示すスクリーン映像を表示制御部14に出力する処理を実施する。
また、アプリケーション実行部13はキーボード2又はマウス3から入力された操作情報、あるいは、映像伝送要求受信部11により受信された映像伝送要求に含まれているアプリケーションの操作情報にしたがってアプリケーションを制御する処理を実施する。
表示制御部14は例えばMPUなどから構成されており、アプリケーション実行部13から出力されたスクリーン映像を表示装置4に表示する処理を実施する。
スクリーン映像送信部15は例えばCPUやネットワークに対するインタフェース機器などから構成されており、表示制御部14により現在表示されているスクリーン映像から、映像伝送要求受信部11により受信された映像伝送要求に含まれている領域情報が示す矩形領域の映像を抽出し、その矩形領域の映像をネットワーク経由でモバイル受信端末5に送信する処理を実施する。
モバイル受信端末5の映像伝送要求送信部21は例えばネットワークに対するインタフェース機器から構成されており、所望の矩形領域を示す領域情報を含む映像伝送要求や、アプリケーションの操作情報を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する処理を実施する。なお、映像伝送要求送信部21は映像伝送要求手段及び操作情報送信手段を構成している。
スクリーン映像受信部22は例えばネットワークに対するインタフェース機器から構成されており、ターゲットPC1から送信された矩形領域の映像を受信する処理を実施する。なお、スクリーン映像受信部22は映像受信手段を構成している。
制御用GUI部23は例えばCPUなどから構成されており、スクリーン映像受信部22により受信された矩形領域の映像をタッチパネル制御部24に出力するとともに、ターゲットPC1で実行されるアプリケーションの操作を受け付ける操作ボタンの画像データをタッチパネル制御部24に出力する処理を実施する。
また、制御用GUI部23はタッチパネル制御部24により入力されたタッチパネル25の操作情報から、タッチパネル25に表示されている操作ボタンに対するユーザ操作を検知する処理を実施する。
また、制御用GUI部23は操作ボタンに対するユーザ操作を検知すると、そのユーザ操作をアプリケーションの操作情報(例えば、ターゲットPC1におけるマウス3の操作情報、ターゲットPC1におけるキーボード2の操作情報)に変換して、その操作情報を映像伝送要求送信部21に出力する処理を実施する。
なお、制御用GUI部23は表示手段、ユーザ操作検知手段及び操作情報送信手段を構成している。
タッチパネル制御部24は例えばMPUなどから構成されており、制御用GUI部23から出力された矩形領域の映像をタッチパネル25に表示するとともに、操作ボタンをタッチパネル25に表示する処理を実施する。
また、タッチパネル制御部24はタッチパネル25の操作情報を入力して、その操作情報を制御用GUI部23に出力する処理を実施する。
なお、タッチパネル制御部24は表示手段及びユーザ操作検知手段を構成している。
図1の例では、ターゲットPC1及びモバイル受信端末5のそれぞれがコンピュータで構成されているものを想定しているが、ターゲットPC1の構成要素である映像伝送要求受信部11、入出力制御部12、アプリケーション実行部13、表示制御部14及びスクリーン映像送信部15のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコン)で構成されていてもよい。
また、モバイル受信端末5の構成要素である映像伝送要求送信部21、スクリーン映像受信部22、制御用GUI部23及びタッチパネル制御部24のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコン)で構成されていてもよい。
次に動作について説明する。
図2はこの発明の実施の形態1によるスクリーン映像伝送システムにおけるスクリーン映像の伝送処理を示すフローチャートである。
図3はこの発明の実施の形態1によるスクリーン映像伝送システムにおけるアプリケーションの制御処理を示すフローチャートである。
最初に、スクリーン映像の伝送処理について説明する。
ターゲットPC1の入出力制御部12は、例えば、キーボード2又はマウス3からアプリケーションの実行を指示する操作情報が入力されると、その操作情報をアプリケーション実行部13に出力する。
ターゲットPC1のアプリケーション実行部13は、入出力制御部12からアプリケーションの実行を指示する操作情報を受けると、メモリに格納されているアプリケーションを実行し、その実行結果を示すスクリーン映像を表示制御部14に出力する。
ターゲットPC1の表示制御部14は、アプリケーション実行部13から出力されたスクリーン映像を表示装置4に表示する。
ターゲットPC1のスクリーン映像送信部15は、表示制御部14が表示装置4に表示しているスクリーン映像の縮小映像(低解像度のモバイル受信端末5でも表示が可能なサイズの解像度まで縮小された映像)をネットワーク経由でモバイル受信端末5に送信する。
モバイル受信端末5のスクリーン映像受信部22は、ターゲットPC1から送信されたスクリーン映像の縮小映像を受信し、その縮小映像を制御用GUI部23に出力する。
ここでは、スクリーン映像送信部15がスクリーン映像を縮小して縮小映像をスクリーン映像受信部22に送信する例を示しているが、スクリーン映像送信部15が現在表示中のスクリーン映像を送信し、スクリーン映像受信部22が受信したスクリーン映像を縮小するようにしてもよい。
モバイル受信端末5の制御用GUI部23は、スクリーン映像受信部22からスクリーン映像の縮小映像を受けると、その縮小映像をタッチパネル制御部24に出力する。
モバイル受信端末5のタッチパネル制御部24は、制御用GUI部23からスクリーン映像の縮小映像を受けると、その縮小映像をタッチパネル25に表示する。
これにより、モバイル受信端末5のユーザは、スクリーン映像の縮小映像を見ることができるが、縮小映像であるため鮮明な映像でないことがある。
このとき、ユーザは、スクリーン映像内の一部の矩形領域を拡大して、その矩形領域を鮮明に見ることを希望する場合がある。
この場合、ユーザがモバイル受信端末5のタッチパネル25に触れることで、表示を希望する矩形領域を指定することができる。
モバイル受信端末5のタッチパネル制御部24は、タッチパネル25の操作情報を入力して、その操作情報を制御用GUI部23に出力する。
ここでは、説明の便宜上、タッチパネル25の操作情報は、表示を希望する矩形領域を示す領域情報であるものとする。
図4は矩形領域を示す領域情報の一例を示す説明図である。
図4の領域情報は、スクリーン映像の左上が原点であるとき、左上の点の座標が(100,100)で、幅320、高さ240の矩形領域を示している。
モバイル受信端末5の制御用GUI部23は、タッチパネル制御部24からタッチパネル25の操作情報として、表示を希望する矩形領域を示す領域情報を受けると、その領域情報を含む映像伝送要求を映像伝送要求送信部21に出力する。
モバイル受信端末5の映像伝送要求送信部21は、制御用GUI部23から領域情報を含む映像伝送要求を受けると、その映像伝送要求をネットワーク経由でターゲットPC1に送信する(図2のステップST1)。
ターゲットPC1の映像伝送要求受信部11は、モバイル受信端末5から送信された領域情報を含む映像伝送要求を受信し、その映像伝送要求をスクリーン映像送信部15に出力する(ステップST2)。
ターゲットPC1のスクリーン映像送信部15は、映像伝送要求受信部11から領域情報を含む映像伝送要求を受けると、表示制御部14により現在表示されているスクリーン映像から、その領域情報が示す矩形領域の映像を抽出し、その矩形領域の映像をネットワーク経由でモバイル受信端末5に送信する(ステップST3)。
図5は表示制御部14により現在表示されているスクリーン映像から抽出される矩形領域の映像を示す説明図である。
図5の例では、アプリケーション実行部13によってアプリケーションw0が実行されることで、サイズが(1280×1024)のスクリーン映像r0が表示されているとき、左上の点の座標が(100,100)で、幅320、高さ240の矩形領域の映像r1が抽出されている。
モバイル受信端末5のスクリーン映像受信部22は、ターゲットPC1から送信された矩形領域の映像を受信し、その矩形領域の映像を制御用GUI部23に出力する。
モバイル受信端末5の制御用GUI部23は、スクリーン映像受信部22から矩形領域の映像を受けると、その映像をタッチパネル制御部24に出力する。
モバイル受信端末5のタッチパネル制御部24は、制御用GUI部23から矩形領域の映像を受けると、その映像をタッチパネル25に表示する(ステップST4)。
これにより、モバイル受信端末5のユーザは、図5の矩形領域の映像r1を見ることができる。
次に、アプリケーションの制御処理について説明する。
モバイル受信端末5の制御用GUI部23は、ターゲットPC1で実行されるアプリケーションの操作を受け付ける操作ボタンの画像データを生成し、その操作ボタンの画像データをタッチパネル制御部24に出力する。
モバイル受信端末5のタッチパネル制御部24は、制御用GUI部23から操作ボタンの画像データを受けると、その画像データにしたがって操作ボタンをタッチパネル25に表示する。
ここで、図6はタッチパネル25に表示されている操作ボタンの一例を示す説明図である。
図6の例では、アプリケーションの操作が5個であり、「c1」〜「c5」が操作ボタンとして表示されている。
ユーザは、タッチパネル25上の操作ボタン「c1」〜「c5」に触れることで、アプリケーションを操作することができる。
モバイル受信端末5のタッチパネル制御部24は、ユーザが、タッチパネル25に表示されている何れかの操作ボタンに触れると、その操作ボタンに対する操作情報を制御用GUI部23に出力する。
ここでは、説明の便宜上、操作ボタン「c3」に対する操作情報を制御用GUI部23に出力するものとして説明する。
モバイル受信端末5の制御用GUI部23は、タッチパネル制御部24から操作ボタン「c3」に対する操作情報を受けると、操作ボタン「c3」に対するユーザ操作を検知し、操作ボタン「c3」に対するユーザ操作をアプリケーションの操作情報に変換する。
例えば、ターゲットPC1でのアプリケーションの制御がマウス3の操作で行われる場合、操作ボタン「c3」に対するユーザ操作をアプリケーションの操作情報として、ターゲットPC1におけるマウス3の操作情報に変換する。
即ち、制御用GUI部23は、図7に示すような変換テーブルを参照して、操作ボタン「c3」に対するユーザ操作をマウス3の操作情報に変換する。
図7の例では、「c3」に対するユーザ操作は、座標(420,940)のマウスクリックに変換される。
図8はターゲットPC1のマウス3によって、アプリケーションの操作が可能な操作ボタン「c1」〜「c5」(表示装置4により表示されているスクリーン映像上の操作ボタン)を示す説明図である。
図8の例では、アプリケーションの操作が可能な操作ボタンを5個表示しているが、あくまでも一例であり、6個以上の操作ボタンを表示してもよい。
制御用GUI部23は、操作ボタン「c3」に対するユーザ操作をアプリケーションの操作情報に変換すると、そのアプリケーションの操作情報を映像伝送要求送信部21に出力する。
モバイル受信端末5の映像伝送要求送信部21は、制御用GUI部23からアプリケーションの操作情報を受けると、そのアプリケーションの操作情報を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する(図3のステップST11)。
ここでは、アプリケーションの操作情報を映像伝送要求に含めて、その映像伝送要求を送信しているが、映像伝送要求に含めずに、アプリケーションの操作情報をターゲットPC1に送信するようにしてもよい。
また、矩形領域を示す領域情報とアプリケーションの操作情報の両方を含む映像伝送要求をターゲットPC1に送信するようにしてもよい。
ターゲットPC1の映像伝送要求受信部11は、モバイル受信端末5から送信されたアプリケーションの操作情報を含む映像伝送要求を受信すると、その映像伝送要求に含まれているアプリケーションの操作情報を抽出し、その操作情報を入出力制御部12に出力する(ステップST12)。
ターゲットPC1の入出力制御部12は、映像伝送要求受信部11からアプリケーションの操作情報を受けると、その操作情報をアプリケーション実行部13に出力する。
ターゲットPC1のアプリケーション実行部13は、入出力制御部12からアプリケーションの操作情報を受けると、その操作情報にしたがってアプリケーションを制御する(ステップST13)。
例えば、操作ボタン「c3」に対するユーザ操作がアプリケーションの操作情報として、マウス3の操作情報に変換されている場合、マウス3によって、図8の操作ボタン「c3」がクリックされた場合と同様のアプリケーション制御が行われる。
この実施の形態1では、モバイル受信端末5の制御用GUI部23が、操作ボタンに対するユーザ操作をアプリケーションの操作情報として、ターゲットPC1におけるマウス3の操作情報に変換する例を示したが、ターゲットPC1でのアプリケーションの制御がキーボード2の操作で行われる場合、操作ボタンに対するユーザ操作をアプリケーションの操作情報として、ターゲットPC1におけるキーボード2の操作情報に変換する。
具体的には、以下の通りである。
モバイル受信端末5の制御用GUI部23は、アプリケーションの操作が5個であれば、マウス3の操作情報に変換する場合と同様に、操作ボタン「c1」〜「c5」を生成し、タッチパネル制御部24を介して、操作ボタン「c1」〜「c5」をタッチパネル25に表示する(図6を参照する)。
これにより、ユーザは、タッチパネル25上の操作ボタン「c1」〜「c5」に触れることで、アプリケーションを操作することができる。
モバイル受信端末5のタッチパネル制御部24は、ユーザが、タッチパネル25に表示されている何れかの操作ボタンに触れると、その操作ボタンに対する操作情報を制御用GUI部23に出力する。
ここでは、説明の便宜上、操作ボタン「c5」に対する操作情報を制御用GUI部23に出力するものとして説明する。
モバイル受信端末5の制御用GUI部23は、タッチパネル制御部24から操作ボタン「c5」に対する操作情報を受けると、操作ボタン「c5」に対するユーザ操作を検知し、操作ボタン「c5」に対するユーザ操作をアプリケーションの操作情報に変換する。
ここでは、ターゲットPC1でのアプリケーションの制御がキーボード2の操作で行われるものとしているので、操作ボタン「c5」に対するユーザ操作をアプリケーションの操作情報として、ターゲットPC1におけるキーボード2の操作情報に変換する。
即ち、制御用GUI部23は、図9に示すような変換テーブルを参照して、操作ボタン「c5」に対するユーザ操作をキーボード2の操作情報に変換する。
図9の例では、「c5」に対するユーザ操作は、キーボード「f5」の操作情報に変換される。
制御用GUI部23は、操作ボタン「c5」に対するユーザ操作をアプリケーションの操作情報に変換すると、そのアプリケーションの操作情報(キーボード「f5」の操作情報)を映像伝送要求送信部21に出力する。
モバイル受信端末5の映像伝送要求送信部21は、制御用GUI部23からアプリケーションの操作情報を受けると、そのアプリケーションの操作情報を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する。
ここでは、アプリケーションの操作情報を映像伝送要求に含めて、その映像伝送要求を送信しているが、映像伝送要求に含めずに、アプリケーションの操作情報をターゲットPC1に送信するようにしてもよい。
また、矩形領域を示す領域情報とアプリケーションの操作情報の両方を含む映像伝送要求をターゲットPC1に送信するようにしてもよい。
ターゲットPC1の映像伝送要求受信部11は、モバイル受信端末5から送信されたアプリケーションの操作情報を含む映像伝送要求を受信すると、その映像伝送要求に含まれているアプリケーションの操作情報を抽出し、その操作情報を入出力制御部12に出力する。
ターゲットPC1の入出力制御部12は、映像伝送要求受信部11からアプリケーションの操作情報を受けると、その操作情報をアプリケーション実行部13に出力する。
ターゲットPC1のアプリケーション実行部13は、入出力制御部12からアプリケーションの操作情報を受けると、その操作情報にしたがってアプリケーションを制御する。
ここでは、操作ボタン「c5」に対するユーザ操作がアプリケーションの操作情報として、キーボード2の操作情報(キーボード「f5」の操作情報)に変換されているので、キーボード2によって、キーボード「f5」が押された場合と同様のアプリケーション制御が行われる。
以上で明らかなように、この実施の形態1によれば、モバイル受信端末5が、所望の矩形領域を示す領域情報を含む映像伝送要求をターゲットPC1に送信する映像伝送要求送信部21と、ターゲットPC1から送信された矩形領域の映像を受信するスクリーン映像受信部22と、スクリーン映像受信部22により受信された矩形領域の映像をタッチパネル25に表示するとともに、アプリケーションの操作を受け付ける操作ボタンをタッチパネル25に表示するタッチパネル制御部24と、タッチパネル25に表示されている操作ボタンに対するユーザ操作を検知し、そのユーザ操作をアプリケーションの操作情報に変換する制御用GUI部23と、制御用GUI部23により変換された操作情報をターゲットPC1に送信する映像伝送要求送信部21とを備え、ターゲットPC1が、モバイル受信端末5から操作情報を受信すると、その操作情報にしたがってアプリケーションを制御するように構成したので、モバイル受信端末5が、アプリケーションの操作に関するメニューが表示されている領域の映像を受信することなく、ユーザがモバイル受信端末5側でアプリケーションを操作することができる効果がある。
即ち、ターゲットPC1から送信される矩形領域の映像が、アプリケーションの操作に関するメニューが表示されている領域でない場合でも、モバイル受信端末5において、アプリケーションの操作を受け付けることができる効果を奏する。
実施の形態2.
上記実施の形態1では、ターゲットPC1のアプリケーション実行部13が1個のアプリケーションを実行するものを示したが、複数のアプリケーションを実行するものであってもよい。
図10はこの発明の実施の形態2によるスクリーン映像伝送システムを示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
ターゲットPC1の映像伝送要求受信部31は例えばネットワークに対するインタフェース機器から構成されており、図1の映像伝送要求受信部11と同様に、モバイル受信端末5から送信された領域情報を含む映像伝送要求や、アプリケーションの操作情報含む映像伝送要求を受信する処理を実施する他に、ウィンドウの一覧表取得要求を含む映像伝送要求や、ウィンドウIDを含む映像伝送要求を受信する処理を実施する。
入出力制御部32は例えばCPUなどから構成されており、図1の入出力制御部12と同様に、キーボード2又はマウス3から入力された操作情報及び映像伝送要求受信部31により受信されたアプリケーションの操作情報をアプリケーション実行部33に出力するとともに、映像伝送要求受信部31により受信された映像伝送要求をスクリーン映像送信部15に出力する処理を実施する。
アプリケーション実行部33は例えばCPUなどから構成されており、メモリに格納されている複数のアプリケーションを実行して、複数のウィンドウ(アプリケーションの実行結果を示すスクリーン映像)を表示制御部34に出力する処理を実施する。
また、アプリケーション実行部33はキーボード2又はマウス3から入力された操作情報、あるいは、映像伝送要求受信部31により受信された映像伝送要求に含まれているアプリケーションの操作情報にしたがってアプリケーションを制御する処理を実施する。
表示制御部34は例えばMPUなどから構成されており、アプリケーション実行部33から出力された複数のウィンドウを表示装置4に表示する処理を実施する。
スクリーン映像送信部35は例えばCPUやネットワークに対するインタフェース機器などから構成されており、図1のスクリーン映像送信部15と同様に、表示制御部34により現在表示されているスクリーン映像から、映像伝送要求受信部31により受信された映像伝送要求に含まれている領域情報が示す矩形領域の映像を抽出し、その矩形領域の映像をネットワーク経由でモバイル受信端末5に送信する処理を実施する他に、表示制御部34により現在表示されている複数のウィンドウを示すウィンドウの一覧表をモバイル受信端末5に送信するとともに、映像伝送要求受信部11により受信された映像伝送要求に含まれているウィンドウIDが示すウィンドウを矩形領域の映像として抽出し、その矩形領域の映像をモバイル受信端末5に送信する処理を実施する。
モバイル受信端末5の映像伝送要求送信部41は例えばネットワークに対するインタフェース機器から構成されており、図1の映像伝送要求送信部21と同様に、所望の矩形領域を示す領域情報を含む映像伝送要求や、アプリケーションの操作情報を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する処理を実施する他に、ウィンドウの一覧表取得要求を含む映像伝送要求や、ウィンドウIDを含む映像伝送要求をネットワーク経由でターゲットPC1に送信する処理を実施する。なお、映像伝送要求送信部41は映像伝送要求手段及び操作情報送信手段を構成している。
スクリーン映像受信部42は例えばネットワークに対するインタフェース機器から構成されており、図1のスクリーン映像受信部22と同様に、ターゲットPC1から送信された矩形領域の映像を受信する処理を実施する他に、ターゲットPC1から送信されたウィンドウの一覧表を受信する処理を実施する。なお、スクリーン映像受信部42は映像受信手段を構成している。
制御用GUI部43は例えばCPUなどから構成されており、図1の制御用GUI部23と同様に、スクリーン映像受信部42により受信された矩形領域の映像をタッチパネル制御部44に出力するとともに、ターゲットPC1で実行されるアプリケーションの操作を受け付ける操作ボタンの画像データをタッチパネル制御部44に出力する処理を実施する。
また、制御用GUI部43はタッチパネル制御部44により入力されたタッチパネル25の操作情報から、タッチパネル25に表示されている操作ボタンに対するユーザ操作を検知する処理を実施する。
また、制御用GUI部43は操作ボタンに対するユーザ操作を検知すると、そのユーザ操作をアプリケーションの操作情報(例えば、ターゲットPC1におけるマウス3の操作情報、ターゲットPC1におけるキーボード2の操作情報)に変換して、その操作情報を映像伝送要求送信部41に出力する処理を実施する。
制御用GUI部43はターゲットPCにより複数のアプリケーションが実行される場合、図1の制御用GUI部23と異なり、ウィンドウの一覧表取得要求を含む映像伝送要求の送信指示を映像伝送要求送信部41に出力するほか、タッチパネル制御部44を介して、各アプリケーションに対応するウィンドウの中から、所望のウィンドウの指定を受け付け、そのウィンドウを示すウィンドウIDを含む映像伝送要求を映像伝送要求送信部41に出力する処理を実施する。
なお、制御用GUI部23は表示手段、ユーザ操作検知手段及び操作情報送信手段を構成している。
タッチパネル制御部44は例えばMPUなどから構成されており、制御用GUI部43から出力された矩形領域の映像をタッチパネル25に表示するとともに、操作ボタンをタッチパネル25に表示する処理を実施する。
また、タッチパネル制御部44はタッチパネル25の操作情報を入力して、その操作情報を制御用GUI部43に出力する処理を実施する。
なお、タッチパネル制御部44は表示手段及びユーザ操作検知手段を構成している。
図10の例では、ターゲットPC1及びモバイル受信端末5のそれぞれがコンピュータで構成されているものを想定しているが、ターゲットPC1の構成要素である映像伝送要求受信部31、入出力制御部32、アプリケーション実行部33、表示制御部34及びスクリーン映像送信部35のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコン)で構成されていてもよい。
また、モバイル受信端末5の構成要素である映像伝送要求送信部41、スクリーン映像受信部42、制御用GUI部43及びタッチパネル制御部44のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコン)で構成されていてもよい。
次に動作について説明する。
図11はこの発明の実施の形態2によるスクリーン映像伝送システムにおけるウィンドウの取得処理を示すフローチャートである。
図12はこの発明の実施の形態2によるスクリーン映像伝送システムにおけるスクリーン映像の伝送処理を示すフローチャートである。
図13はこの発明の実施の形態2によるスクリーン映像伝送システムにおけるアプリケーションの制御処理を示すフローチャートである。
最初に、ウィンドウの取得処理について説明する。
ターゲットPC1の入出力制御部32は、例えば、キーボード2又はマウス3からアプリケーションの実行を指示する操作情報が入力されると、その操作情報をアプリケーション実行部33に出力する。
ターゲットPC1のアプリケーション実行部33は、例えば、入出力制御部12から複数のアプリケーションの実行を指示する操作情報を受けると、メモリに格納されている複数のアプリケーションを実行し、複数のウィンドウ(アプリケーションの実行結果を示すスクリーン映像)を表示制御部34に出力する。
ターゲットPC1の表示制御部34は、アプリケーション実行部33から出力された複数のウィンドウを表示装置4に表示する。
モバイル受信端末5の制御用GUI部43は、ターゲットPCにより複数のアプリケーションが実行される場合、ウィンドウの一覧表取得要求を含む映像伝送要求の送信指示を映像伝送要求送信部41に出力する。
モバイル受信端末5の映像伝送要求送信部41は、制御用GUI部43からウィンドウの一覧表取得要求を含む映像伝送要求の送信指示を受けると、ウィンドウの一覧表取得要求を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する(図11のステップST21)。
ここでは、映像伝送要求送信部41がウィンドウの一覧表取得要求を含む映像伝送要求を送信しているが、ウィンドウの一覧表取得要求を映像伝送要求に含めずに送信してもよい。
ターゲットPC1の映像伝送要求受信部31は、モバイル受信端末5から送信されたウィンドウの一覧表取得要求を含む映像伝送要求を受信すると、その映像伝送要求に含まれているウィンドウの一覧表取得要求を抽出し、そのウィンドウの一覧表取得要求をスクリーン映像送信部35に出力する(ステップST22)。
ターゲットPC1のスクリーン映像送信部35は、映像伝送要求受信部31からウィンドウの一覧表取得要求を受けると、表示制御部34による現在のウィンドウの表示状況を確認し、現在表示されている複数のウィンドウを示すウィンドウの一覧表をネットワーク経由でモバイル受信端末5に送信する(ステップST23)。
ここで、図14はウィンドウの一覧表を示す説明図である。
図14の例では、現在表示されているウィンドウの数が5個であり、各ウィンドウのタイトルとウィンドウIDを一覧化している。
モバイル受信端末5のスクリーン映像受信部42は、ターゲットPC1から送信されたウィンドウの一覧表を受信すると、その一覧表を制御用GUI部43に出力する。
モバイル受信端末5の制御用GUI部43は、スクリーン映像受信部42からウィンドウの一覧表を受けると、その一覧表を保持する(ステップST24)。
また、制御用GUI部43は、ユーザからの要求があれば、タッチパネル制御部14を介して、図14に示すようなウィンドウの一覧表をタッチパネル25に表示する。
次に、スクリーン映像の伝送処理について説明する。
モバイル受信端末5のタッチパネル制御部44は、図14に示すようなウィンドウの一覧表をタッチパネル25に表示しているとき、ユーザが、ウィンドウのタイトルに触れることで、表示を希望するウィンドウを指定すると、その旨を示すタッチパネル25の操作情報を制御用GUI部43に出力する。
モバイル受信端末5の制御用GUI部43は、タッチパネル制御部44から指定ウィンドウを示すタッチパネル25の操作情報を受けると、保持しているウィンドウの一覧表を参照して、その指定ウィンドウのウィンドウIDを特定し、そのウィンドウIDを含む映像伝送要求を映像伝送要求送信部41に出力する。
例えば、ユーザにより「アプリ1」のウィンドウが指定された場合、「0x0001」のウィンドウIDを含む映像伝送要求を映像伝送要求送信部41に出力する。
モバイル受信端末5の映像伝送要求送信部41は、制御用GUI部43からウィンドウIDを含む映像伝送要求を受けると、その映像伝送要求をネットワーク経由でターゲットPC1に送信する(図12のステップST31)。
ターゲットPC1の映像伝送要求受信部31は、モバイル受信端末5から送信されたウィンドウIDを含む映像伝送要求を受信すると、その映像伝送要求に含まれているウィンドウIDを抽出し、そのウィンドウIDを入出力制御部32及びスクリーン映像送信部35に出力する。
ターゲットPC1の入出力制御部32は、映像伝送要求受信部31からウィンドウIDを受けると、そのウィンドウIDをアプリケーション実行部33に出力する。
ターゲットPC1のアプリケーション実行部33は、入出力制御部32からウィンドウIDを受けると、表示制御部34によって、現在表示されている複数のウィンドウの中で、そのウィンドウIDに対応するアプリケーションのウィンドウが最上位で表示されるように、ウィンドウ制御を行う。
また、アプリケーション実行部33は、そのウィンドウIDに対応するアプリケーションのウィンドウの中央にマウスポインタが移動するように、マウスポインタ制御を行う(ステップST32)。
例えば、ウィンドウIDが「0x0001」であれば、「0x0001」のウィンドウIDを有するウィンドウに対して、上記のウィンドウ制御とマウスポインタ制御が行われる。
ターゲットPC1のスクリーン映像送信部35は、映像伝送要求受信部31からウィンドウIDを受けると、表示制御部34によって、現在表示されている複数のウィンドウの中から、そのウィンドウIDに対応するアプリケーションのウィンドウを矩形領域の映像として抽出し、その矩形領域の映像をネットワーク経由でモバイル受信端末5に送信する(ステップST33)。
モバイル受信端末5のスクリーン映像受信部42は、ターゲットPC1から送信された矩形領域の映像を受信し、その矩形領域の映像を制御用GUI部43に出力する。
モバイル受信端末5の制御用GUI部43は、スクリーン映像受信部42から矩形領域の映像を受けると、その映像をタッチパネル制御部44に出力する。
モバイル受信端末5のタッチパネル制御部44は、制御用GUI部43から矩形領域の映像を受けると、その映像をタッチパネル25に表示する(ステップST34)。
これにより、モバイル受信端末5のユーザは、指定のウィンドウ(矩形領域の映像)を見ることができる。
次に、アプリケーションの制御処理について説明する。
モバイル受信端末5のタッチパネル制御部44は、図14に示すようなウィンドウの一覧表をタッチパネル25に表示しているとき、ユーザが、ウィンドウのタイトルに触れることで、制御を希望するウィンドウを指定すると、その旨を示すタッチパネル25の操作情報を制御用GUI部43に出力する。
モバイル受信端末5の制御用GUI部43は、タッチパネル制御部44から指定ウィンドウを示すタッチパネル25の操作情報を受けると、保持しているウィンドウの一覧表を参照して、その指定ウィンドウのウィンドウIDを特定し、そのウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブル(図7及び図9を参照)の送信要求を含む映像伝送要求を映像伝送要求送信部41に出力する。
例えば、ユーザにより「アプリ1」のウィンドウが指定された場合、「0x0001」のウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブルの送信要求を含む映像伝送要求を映像伝送要求送信部41に出力する。
モバイル受信端末5の映像伝送要求送信部41は、制御用GUI部43からウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブルの送信要求を含む映像伝送要求を受けると、その映像伝送要求をネットワーク経由でターゲットPC1に送信する(図13のステップST41)。
ここでは、映像伝送要求送信部41が変換テーブルの送信要求を含む映像伝送要求を送信しているが、変換テーブルの送信要求を映像伝送要求に含めずに送信してもよい。
ターゲットPC1の映像伝送要求受信部31は、モバイル受信端末5から送信されたウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブルの送信要求を含む映像伝送要求を受信すると、その映像伝送要求に含まれている変換テーブルの送信要求を抽出し、その変換テーブルの送信要求をスクリーン映像送信部35に出力する(ステップST42)。
ターゲットPC1のスクリーン映像送信部35は、映像伝送要求受信部31からウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブルの送信要求を受けると、アプリケーション実行部33から、そのウィンドウIDに対応するアプリケーションの操作情報を示す変換テーブルを取得し、その変換テーブルをネットワーク経由でモバイル受信端末5に送信する(ステップST43)。
例えば、ウィンドウIDが「0x0001」であれば、「アプリ1」の操作情報を示す変換テーブルをモバイル受信端末5に送信する。
モバイル受信端末5のスクリーン映像受信部42は、ターゲットPC1から送信された変換テーブルを受信し、その変換テーブルを制御用GUI部43に出力する(ステップST44)。
モバイル受信端末5の制御用GUI部43は、スクリーン映像受信部42から出力された変換テーブルを保存する。
モバイル受信端末5の制御用GUI部43は、例えば、保存している変換テーブルを参照することで、先に指定された制御を希望するウィンドウに対応するアプリケーションの操作を確認し、そのアプリケーションの操作を受け付ける操作ボタンの画像データを生成して、その操作ボタンの画像データをタッチパネル制御部44に出力する。
モバイル受信端末5のタッチパネル制御部44は、制御用GUI部43から操作ボタンの画像データを受けると、上記実施の形態1と同様に、その画像データにしたがって操作ボタンをタッチパネル25に表示する。
モバイル受信端末5のタッチパネル制御部44は、ユーザが、タッチパネル25に表示されている何れかの操作ボタンに触れると、上記実施の形態1と同様に、その操作ボタンに対する操作情報を制御用GUI部43に出力する。
ここでは、説明の便宜上、操作ボタン「c3」に対する操作情報を制御用GUI部43に出力するものとして説明する。
モバイル受信端末5の制御用GUI部43は、タッチパネル制御部44から操作ボタン「c3」に対する操作情報を受けると、操作ボタン「c3」に対するユーザ操作を検知し、操作ボタン「c3」に対するユーザ操作をアプリケーションの操作情報に変換する。
即ち、制御用GUI部23は、ターゲットPC1でのアプリケーションの制御がマウス3の操作で行われる場合、先に保存している変換テーブルを参照して、操作ボタン「c3」に対するユーザ操作をマウス3の操作情報に変換する。
ターゲットPC1でのアプリケーションの制御がキーボード2の操作で行われる場合、先に保存している変換テーブルを参照して、操作ボタン「c3」に対するユーザ操作をキーボード2の操作情報に変換する。
制御用GUI部43は、操作ボタン「c3」に対するユーザ操作をアプリケーションの操作情報に変換すると、そのアプリケーションの操作情報を映像伝送要求送信部41に出力する。
モバイル受信端末5の映像伝送要求送信部41は、制御用GUI部43からアプリケーションの操作情報を受けると、そのアプリケーションの操作情報を含む映像伝送要求をネットワーク経由でターゲットPC1に送信する(ステップST45)。
ここでは、アプリケーションの操作情報を映像伝送要求に含めて、その映像伝送要求を送信しているが、映像伝送要求に含めずに、アプリケーションの操作情報をターゲットPC1に送信するようにしてもよい。
ターゲットPC1の映像伝送要求受信部31は、モバイル受信端末5から送信されたアプリケーションの操作情報を含む映像伝送要求を受信すると、その映像伝送要求に含まれているアプリケーションの操作情報を抽出し、その操作情報を入出力制御部32に出力する(ステップST46)。
ターゲットPC1の入出力制御部32は、映像伝送要求受信部31からアプリケーションの操作情報を受けると、その操作情報をアプリケーション実行部33に出力する。
ターゲットPC1のアプリケーション実行部33は、入出力制御部32からアプリケーションの操作情報を受けると、その操作情報にしたがって、アプリケーション(先に送信されたウィンドウIDに対応するアプリケーション)を制御する(ステップST47)。
例えば、操作ボタン「c3」に対するユーザ操作がアプリケーションの操作情報として、マウス3の操作情報に変換されている場合、マウス3によって、図8の操作ボタン「c3」がクリックされた場合と同様のアプリケーション制御が行われる。
また、操作ボタン「c3」に対するユーザ操作がアプリケーションの操作情報として、キーボード2の操作情報に変換されている場合、キーボード2によって、キーボード「f3」が押された場合と同様のアプリケーション制御が行われる。
以上で明らかなように、この実施の形態2によれば、ターゲットPC1により複数のアプリケーションが実行されている場合、モバイル受信端末5の制御用GUI部43が、各アプリケーションに対応するウィンドウの中から、所望のウィンドウの指定を受け付け、映像伝送要求送信部41が、そのウィンドウを示すウィンドウIDを含む映像伝送要求をターゲットPC1に送信し、ターゲットPC1の映像伝送要求受信部31が、モバイル受信端末5からウィンドウIDを含む映像伝送要求を受信すると、スクリーン映像送信部35が、現在表示中のスクリーン映像からウィンドウIDが示すウィンドウを矩形領域の映像として抽出し、その矩形領域の映像をモバイル受信端末5に送信するように構成したので、ターゲットPC1により複数のアプリケーションが実行されている場合でも、所望のアプリケーションに対応するウィンドウを表示することができる効果を奏する。
また、この実施の形態2によれば、モバイル受信端末5の制御用GUI部43が、制御を希望するウィンドウに対応するアプリケーションの操作を受け付ける操作ボタンの画像データを生成し、タッチパネル制御部44が、その操作ボタンの画像データにしたがって操作ボタンをタッチパネル25に表示するように構成したので、ターゲットPC1により複数のアプリケーションが実行されている場合でも、上記実施の形態1と同様に、モバイル受信端末5が、アプリケーションの操作に関するメニューが表示されている領域の映像を受信することなく、ユーザがモバイル受信端末5側でアプリケーションを操作することができる効果を奏する。
実施の形態3.
上記実施の形態1では、ユーザが所望の矩形領域を指定して、その矩形領域の映像を表示するものを示したが、現在表示中の矩形領域(実施の形態2のウィンドウを含む)の表示位置を変更するユーザ操作を受け付けるようにしてもよい。
具体的には、以下の通りである。
モバイル受信端末5の制御用GUI部23(または、43)は、矩形領域の映像をタッチパネル25に表示しているとき、ユーザが矩形領域の表示位置を変更する操作(例えば、指を矩形領域の表示領域に接触させた状態で、指を移動させる操作)を行うと、タッチパネル制御部24(または、44)を介して、矩形領域の表示位置を変更するユーザ操作を検知する。
制御用GUI部23(または、43)は、表示位置を変更するユーザ操作を検知すると、変更後の表示位置(例えば、ユーザが指を離したときに矩形領域が表示されている位置)を示す操作情報を含む映像伝送要求を映像伝送要求送信部21(または、41)に出力する。
映像伝送要求送信部21(または、41)は、制御用GUI部23(または、43)から変更後の表示位置を示す操作情報を含む映像伝送要求を受けると、その映像伝送要求をネットワーク経由でターゲットPC1に送信する。
ターゲットPC1の映像伝送要求受信部11(または、31)は、モバイル受信端末5から送信された変更後の表示位置を示す操作情報を含む映像伝送要求を受信すると、その映像伝送要求に含まれている変更後の表示位置を示す操作情報を抽出し、その操作情報を入出力制御部12(または、32)に出力する。
ターゲットPC1の入出力制御部12(または、32)は、映像伝送要求受信部11(または、31)から変更後の表示位置を示す操作情報を受けると、その操作情報をアプリケーション実行部13(または、33)に出力する。
ターゲットPC1のアプリケーション実行部13(または、33)は、入出力制御部12(または、32)から変更後の表示位置を示す操作情報を受けると、マウスポインタが変更後の表示位置(表示位置変更後の矩形領域の中央)に移動するように、マウスポインタ制御を行う。
この実施の形態3では、モバイル受信端末5において、現在表示中の矩形領域の表示位置を変更するユーザ操作を受け付けるものを示したが、ターゲットPC1において、現在表示中の矩形領域の表示位置を変更するようにしてもよい。
具体的には、以下の通りである。
ターゲットPC1の入出力制御部12(または、32)は、矩形領域の映像を表示装置4に表示しているとき、ユーザがキーボード2又はマウス3を用いて、矩形領域の表示位置を変更する操作を行うと、矩形領域の表示位置を変更するユーザ操作を検知する。
ターゲットPC1の表示制御部14(または、34)は、入出力制御部12(または、32)が矩形領域の表示位置を変更するユーザ操作を検知すると、スクリーン映像送信部15(または、35)を介して、変更後の表示位置を示す操作情報をネットワーク経由でモバイル受信端末5に送信する。
モバイル受信端末5のスクリーン映像受信部22(または、42)は、ターゲットPC1から送信された変更後の表示位置を示す操作情報を受信すると、その操作情報を制御用GUI部23(または、43)に出力する。
モバイル受信端末5の制御用GUI部23(または、43)は、スクリーン映像受信部22(または、42)から変更後の表示位置を示す操作情報を受けると、タッチパネル制御部24(または、44)を介して、現在表示中の矩形領域の位置を、その操作情報が示す変更後の表示位置まで移動させる。
ここでは、ユーザがキーボード2又はマウス3を用いて、矩形領域の表示位置を変更する操作を行っているものを示したが、例えば、アラームの発生に伴って、アプリケーション実行部13(または、33)が、現在表示中の矩形領域の位置を強制的に変更するものであってもよい。
実施の形態4.
上記実施の形態1〜3では、モバイル受信端末5の制御用GUI部23(または、43)が、アプリケーションの操作を受け付ける操作ボタン「c1」〜「c5」の画像データを生成し、タッチパネル制御部24(または、44)が、その画像データにしたがって操作ボタン「c1」〜「c5」をタッチパネル25に表示するものを示したが、図15に示すように、スクリーン映像の表示領域r1上に、操作ボタン「c1」〜「c5」を透過表示するようにしてもよい。
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
1 ターゲットPC、2 キーボード(入力手段)、3 マウス(入力手段)、4 表示装置、5 モバイル受信端末、11,31 映像伝送要求受信部、12,32 入出力制御部、13,33 アプリケーション実行部、14,34 表示制御部、15,35 スクリーン映像送信部、21,41 映像伝送要求送信部(映像伝送要求手段、操作情報送信手段)、22,42 スクリーン映像受信部(映像受信手段)、23,43 制御用GUI部(表示手段、ユーザ操作検知手段、操作情報送信手段)、24,44 タッチパネル制御部(表示手段、ユーザ操作検知手段)、25 タッチパネル。

Claims (7)

  1. アプリケーションを実行してスクリーン映像を表示し、上記スクリーン映像内の矩形領域を示す領域情報を含む映像伝送要求を受信すると、現在表示中のスクリーン映像から上記映像伝送要求に含まれている領域情報が示す矩形領域の映像を抽出して、上記矩形領域の映像を送信するターゲットPCと、上記映像伝送要求を上記ターゲットPCに送信して、上記ターゲットPCから矩形領域の映像を受信し、上記矩形領域の映像を表示するモバイル受信端末とから構成されており、
    上記モバイル受信端末は、所望の矩形領域を示す領域情報を含む映像伝送要求を上記ターゲットPCに送信する映像伝送要求手段と、上記ターゲットPCから送信された矩形領域の映像を受信する映像受信手段と、上記映像受信手段により受信された矩形領域の映像をタッチパネルに表示するとともに、上記アプリケーションの操作を受け付ける操作ボタンを上記タッチパネルに表示する表示手段と、上記タッチパネルに表示されている操作ボタンに対するユーザ操作を検知するユーザ操作検知手段と、上記ユーザ操作検知手段により検知されたユーザ操作を上記アプリケーションの操作情報に変換して、その操作情報を上記ターゲットPCに送信する操作情報送信手段とを備え、
    上記ターゲットPCは、上記モバイル受信端末から操作情報を受信すると、上記操作情報にしたがって上記アプリケーションを制御する
    ことを特徴とするスクリーン映像伝送システム。
  2. モバイル受信端末の操作情報送信手段は、ユーザ操作検知手段により検知されたユーザ操作をアプリケーションの操作情報として、ターゲットPCの入力手段であるマウスの操作情報に変換することを特徴とする請求項1記載のスクリーン映像伝送システム。
  3. モバイル受信端末の操作情報送信手段は、ユーザ操作検知手段により検知されたユーザ操作をアプリケーションの操作情報として、ターゲットPCの入力手段であるキーボードの操作情報に変換することを特徴とする請求項1記載のスクリーン映像伝送システム。
  4. ターゲットPCにより複数のアプリケーションが実行されている場合、
    モバイル受信端末の映像伝送要求手段は、各アプリケーションに対応するウィンドウの中から、所望のウィンドウの指定を受け付け、上記ウィンドウを示すウィンドウIDを含む映像伝送要求を上記ターゲットPCに送信し、
    上記ターゲットPCは、上記モバイル受信端末からウィンドウIDを含む映像伝送要求を受信すると、現在表示中のスクリーン映像から上記ウィンドウIDが示すウィンドウを矩形領域の映像として抽出し、上記矩形領域の映像を上記モバイル受信端末に送信する
    ことを特徴とする請求項1から請求項3のうちのいずれか1項記載のスクリーン映像伝送システム。
  5. モバイル受信端末の表示手段は、映像伝送要求手段により指定が受け付けられたウィンドウに対応する操作ボタンをタッチパネルに表示することを特徴とする請求項4記載のスクリーン映像伝送システム。
  6. モバイル受信端末のユーザ操作検知手段は、現在表示中の矩形領域の表示位置を変更するユーザ操作を検知する機能を有し、
    上記モバイル受信端末の操作情報送信手段は、上記ユーザ操作検知手段により表示位置を変更するユーザ操作が検知された場合、変更後の表示位置を示す操作情報を上記ターゲットPCに送信し、
    ターゲットPCは、上記モバイル受信端末から変更後の表示位置を示す操作情報を受信すると、上記操作情報が示す表示位置に入力手段であるマウスのポインタを移動させる
    ことを特徴とする請求項1から請求項5のうちのいずれか1項記載のスクリーン映像伝送システム。
  7. ターゲットPCは、現在表示中の矩形領域の表示位置が変更された場合、変更後の表示位置を示す位置変更情報をモバイル受信端末に送信し、
    上記モバイル受信端末の表示手段は、上記ターゲットPCから送信された位置変更情報にしたがって現在表示中の矩形領域の表示位置を変更する
    ことを特徴とする請求項1から請求項6のうちのいずれか1項記載のスクリーン映像伝送システム。
JP2011275949A 2011-12-16 2011-12-16 スクリーン映像伝送システム Pending JP2013126242A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011275949A JP2013126242A (ja) 2011-12-16 2011-12-16 スクリーン映像伝送システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011275949A JP2013126242A (ja) 2011-12-16 2011-12-16 スクリーン映像伝送システム

Publications (1)

Publication Number Publication Date
JP2013126242A true JP2013126242A (ja) 2013-06-24

Family

ID=48777215

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011275949A Pending JP2013126242A (ja) 2011-12-16 2011-12-16 スクリーン映像伝送システム

Country Status (1)

Country Link
JP (1) JP2013126242A (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003323402A (ja) * 2002-05-01 2003-11-14 Ntt Docomo Inc シンクライアントシステム、並びに、シンクライアント端末、シンクライアント端末制御方法、及び、制御プログラム
JP2004348380A (ja) * 2003-05-21 2004-12-09 Ntt Docomo Inc シンクライアントシステム、シンクライアント端末機、中継装置、サーバ装置及びシンクライアント端末画面表示方法
JP2006059083A (ja) * 2004-08-19 2006-03-02 Ricoh Co Ltd 画像処理装置、遠隔操作方法および遠隔操作プログラム
JP2007251630A (ja) * 2006-03-16 2007-09-27 Cybird Holdings Co Ltd リモートデスクトップ表示方法
JP2008199194A (ja) * 2007-02-09 2008-08-28 Mitsubishi Electric Corp 画像伝送システム
JP2009205492A (ja) * 2008-02-28 2009-09-10 Hitachi Systems & Services Ltd コンピュータの遠隔操作システム
JP2010244224A (ja) * 2009-04-03 2010-10-28 Fujifilm Corp 画像表示装置および方法並びにプログラム
JP2011028530A (ja) * 2009-07-27 2011-02-10 Hitachi Consumer Electronics Co Ltd サーバ装置および座標補正プログラム
JP2011248670A (ja) * 2010-05-27 2011-12-08 Fujifilm Corp Web閲覧システム、中継サーバおよびWeb閲覧方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003323402A (ja) * 2002-05-01 2003-11-14 Ntt Docomo Inc シンクライアントシステム、並びに、シンクライアント端末、シンクライアント端末制御方法、及び、制御プログラム
JP2004348380A (ja) * 2003-05-21 2004-12-09 Ntt Docomo Inc シンクライアントシステム、シンクライアント端末機、中継装置、サーバ装置及びシンクライアント端末画面表示方法
JP2006059083A (ja) * 2004-08-19 2006-03-02 Ricoh Co Ltd 画像処理装置、遠隔操作方法および遠隔操作プログラム
JP2007251630A (ja) * 2006-03-16 2007-09-27 Cybird Holdings Co Ltd リモートデスクトップ表示方法
JP2008199194A (ja) * 2007-02-09 2008-08-28 Mitsubishi Electric Corp 画像伝送システム
JP2009205492A (ja) * 2008-02-28 2009-09-10 Hitachi Systems & Services Ltd コンピュータの遠隔操作システム
JP2010244224A (ja) * 2009-04-03 2010-10-28 Fujifilm Corp 画像表示装置および方法並びにプログラム
JP2011028530A (ja) * 2009-07-27 2011-02-10 Hitachi Consumer Electronics Co Ltd サーバ装置および座標補正プログラム
JP2011248670A (ja) * 2010-05-27 2011-12-08 Fujifilm Corp Web閲覧システム、中継サーバおよびWeb閲覧方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"必ずスマホが欲しくなる パソコンが10倍便利になる[スマホ]連携術 Smart phone * PC Best Techniques", WINDOWS100%, vol. 第14巻, 第11号, JPN6016012226, 13 October 2011 (2011-10-13), JP, pages 73, ISSN: 0003289805 *
IPADとIS03でTEAMVIEWERを使ってみた, JPN6016012228, 19 February 2011 (2011-02-19), ISSN: 0003289806 *

Similar Documents

Publication Publication Date Title
JP4857406B1 (ja) 制御装置およびスクリプト変換方法
US9971417B2 (en) Network control system, control apparatus, controlled apparatus, and apparatus control method
WO2020244266A1 (zh) 智能电视的远程控制方法、移动终端和智能电视
US9268426B2 (en) Remote control method of multi-mode remote controller, remote controller, user terminal and system
US20180292966A1 (en) Apparatus and method for providing an interface in a device with touch screen
US20070005607A1 (en) Interface control program, interface control method, interface control apparatus, plug-in program and information processing apparatus
JP2013200775A (ja) 情報処理装置、情報処理方法およびプログラム
US20120260292A1 (en) Remote control system, television, remote controller and computer-readable medium
JP2006260028A (ja) 遠隔操作システム、リモートコントローラ、遠隔操作方法、情報処理装置、情報処理方法、およびプログラム
KR20140107829A (ko) 디스플레이장치, 입력장치 및 그 제어방법
KR20150049362A (ko) 디스플레이 장치 및 그 ui 제공 방법
KR101864276B1 (ko) 휴대 단말기의 동작 방법
KR20170042953A (ko) 디스플레이 장치 및 이의 제어 방법
KR100676366B1 (ko) 터치스크린이 구비된 무선단말기를 이용한 컴퓨터 제어방법및 그 시스템
JP5113218B2 (ja) 携帯端末装置、表示制御方法、及び表示制御プログラム
KR20150081643A (ko) 디스플레이 장치, 모바일 장치, 이를 포함하는 시스템 및 그 접속 제어방법
CN112087671B (zh) 一种输入法控件的操控提示信息的显示方法及显示设备
CN111669662A (zh) 显示设备、视频通话方法及服务器
CN103473170A (zh) 测试系统及测试方法
JP2013126242A (ja) スクリーン映像伝送システム
JP2013033499A (ja) 携帯端末装置、表示制御方法、及び表示制御プログラム
US9185448B2 (en) Remote control method, and system, receiving device, mobile internet device and recording medium for implementing the same
US10073611B2 (en) Display apparatus to display a mirroring screen and controlling method thereof
CN111949179A (zh) 一种控件放大方法及显示设备
CN114040341B (zh) 一种蓝牙广播包上报处理方法及显示设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141029

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160405

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20161018