JP6234612B2 - 遠隔操作システムおよび情報処理方法 - Google Patents

遠隔操作システムおよび情報処理方法 Download PDF

Info

Publication number
JP6234612B2
JP6234612B2 JP2016564738A JP2016564738A JP6234612B2 JP 6234612 B2 JP6234612 B2 JP 6234612B2 JP 2016564738 A JP2016564738 A JP 2016564738A JP 2016564738 A JP2016564738 A JP 2016564738A JP 6234612 B2 JP6234612 B2 JP 6234612B2
Authority
JP
Japan
Prior art keywords
window
remote
operated device
information
cursor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016564738A
Other languages
English (en)
Other versions
JPWO2016098497A1 (ja
Inventor
萩原 利幸
利幸 萩原
昇 濱口
昇 濱口
秀樹 成田
秀樹 成田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2016098497A1 publication Critical patent/JPWO2016098497A1/ja
Application granted granted Critical
Publication of JP6234612B2 publication Critical patent/JP6234612B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/452Remote windowing, e.g. X-Window System, desktop virtualisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • H04M3/567Multimedia conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M7/00Arrangements for interconnection between switching centres
    • H04M7/0024Services and arrangements where telephone services are combined with data services
    • H04M7/0027Collaboration services where a computer is used for data transfer and the telephone is used for telephonic communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45595Network integration; Enabling network access in virtual machine instances
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0442Handling or displaying different aspect ratios, or changing the aspect ratio
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/24Keyboard-Video-Mouse [KVM] switch
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は遠隔操作システムおよび情報処理方法に関し、特にネットワークを介して被操作装置を遠隔操作する遠隔操作装置および情報処理方法に関する。
同じネットワークに接続されたコンピュータを、別のコンピュータからキーボードやマウスを使って操作する遠隔操作システムが知られている。遠隔操作システムは、複数の人が画面を共有して情報交換を行う電子会議や、遠隔地にあるコンピュータの保守を行うリモートメンテナンスなどの分野で利用されている。
遠隔操作システムは、遠隔操作の対象となる被操作装置と、被操作装置とネットワークを介して接続され、被操作装置の操作を行う遠隔操作装置から構成される。遠隔操作装置は複数の場合もある。遠隔操作装置は、画面上に被操作装置の画面に対応した遠隔操作用ウインドウを表示する。使用者は、遠隔操作用ウインドウに対してキーボードやマウス操作を行う。遠隔操作装置は、キーボードやマウスの操作情報を取得し、その操作情報を被操作装置に送信する。被操作装置においては、遠隔操作装置から送信された操作情報に基づいた処理が実行される。
これにより、遠隔操作装置の使用者は、被操作装置のマウスやキーボードで操作するかのように被操作装置の操作を行うことができる。
特開2010−256965号公報
しかしながら、従来の遠隔操作システムでは、操作対象のウインドウが被操作装置の画面外に一部はみ出したり、他のウインドウの下に隠れている場合、マウス操作により、ウインドウのはみ出している部分を画面内に移動したり、ウインドウを最前面に移動する必要があった。
また、被操作装置の画面全体を操作対象としているため、別のウインドウも操作可能であった。そのため、特定のウインドウのみを操作したい場合に、別のウインドウを誤って操作してしまうという問題もあった。
本発明は以上のような課題を解決するためになされたものであり、使用者の操作の負担を軽減し、かつ使用者の誤操作を抑制した遠隔操作システムおよび情報処理方法の提供を目的とする。
本発明に係る遠隔操作システムは、ネットワークを介して接続される被操作装置と遠隔操作装置とを備える遠隔操作システムであって、遠隔操作装置は、被操作装置とネットワークを介して通信を行う第1の通信部と、遠隔操作装置に対する操作を認識する操作認識部と、表示信号を出力する表示信号出力部と、第1の制御部と、を備え、被操作装置は、遠隔操作装置とネットワークを介して通信を行う第2の通信部と、第2の制御部と、を備え、第1の制御部は、第1の通信部を介して被操作装置において開かれているウインドウの情報に関する表示ウインドウ情報リストを取得し、第1の制御部は、表示信号出力部に表示ウインドウ情報リストに基づくウインドウ一覧を表示する表示信号を出力させ、第1の制御部は、操作認識部がウインドウ一覧のいずれかのウインドウが選択される操作を認識すると、第1の通信部を介して被操作装置にどのウインドウが選択されたかを通知し、第1の制御部は、表示信号出力部に、選択されたウインドウに対応した遠隔操作用ウインドウを表示する表示信号を出力させ、第1の制御部は、第1の通信部を介して、操作認識部が認識する遠隔操作用ウインドウに対する操作を含む操作情報を被操作装置に送信し、第2の通信部は、ウインドウ一覧のうちどのウインドウが選択されたかを遠隔操作装置から受信し、第2の通信部は、操作情報を遠隔操作装置から受信し、第2の制御部は、操作情報に基づいて、被操作装置におけるカーソル位置を計算し、第2の制御部は、計算したカーソル位置が、カーソルが移動可能な領域外であった場合、選択されたウインドウの位置と計算したカーソル位置との相対的な位置関係を保持したまま、カーソル位置がカーソルが移動可能な領域内に来るように、選択されたウインドウの位置およびカーソル位置を変更した後、選択されたウインドウに対して操作情報に基づいて処理を実行する。
遠隔操作装置は、選択されたウインドウを遠隔操作用ウインドウに表示するため、使用者は、選択されたウインドウに対して操作が可能となる。よって、使用者が誤って他のウインドウに対して操作を行ってしまうことを防止することが可能である。
また、被操作装置において、操作対象のウインドウの操作したい部分が画面外にある場合でも、ウインドウの操作したい位置がカーソルで操作可能な画面内に入るように移動され、また、同時にカーソル位置もウインドウとの位置関係を保持したまま移動される。よって、遠隔操作装置を操作する使用者は、自分で操作対象のウインドウの位置を変更する操作を行う必要がないため、使用者が誤った操作を行うことを抑制することが可能となる。また、画面より大きなサイズのウインドウに対して操作を行う場合においても、容易に操作が可能となる。
この発明の目的、特徴、局面、および利点は、以下の詳細な説明と添付図面とによってより明白となる。
本発明の実施形態に係る遠隔操作システムの機能ブロック図である。 本発明の実施形態に係る遠隔操作システムのハードウェア構成図である。 本発明の実施形態に係る被操作装置において開かれているウインドウの一例を示す図である。 本発明の実施形態に係る遠隔操作装置が取得する表示ウインドウ情報リストを示す図である。 本発明の実施形態に係る遠隔操作装置が表示するウインドウ一覧を示す図である。 本発明の実施形態に係る遠隔操作装置が表示する遠隔操作ウインドウを示す図である。 本発明の実施形態に係る遠隔操作システムの操作情報の一例を示す図である。 本発明の実施形態に係る遠隔操作システムの操作種類の定義を示す図である。 本発明の実施形態に係る遠隔操作システムの操作種類毎のデータ1、2を示す図である。 本発明の実施形態に係る遠隔操作システムの動作を示すフローチャートである。 本発明の実施形態に係る遠隔操作システムの動作を示すフローチャートである。 本発明の実施形態に係る遠隔操作装置と被操作装置の画面を示す図である。 本発明の実施形態に係る遠隔操作装置と被操作装置の画面を示す図である。
<構成>
図1は、本発明の実施形態における遠隔操作システムの機能ブロック図である。遠隔操作システムは、被操作装置1と遠隔操作装置2を備える。被操作装置1と遠隔操作装置2はネットワーク3を介して接続されている。
図1に示すように、被操作装置1は、第2の制御部11、第2の通信部12、操作認識部13および表示信号出力部14を備える。第2の通信部12は、ネットワークを介して遠隔操作装置2と通信を行う。操作認識部13は操作部16と接続され、操作部16において行われる操作を認識する。表示信号出力部14は表示部15と接続され、表示部15に対して表示信号を出力する。第2の制御部11は、操作認識部13の操作に応じて、第2の通信部12および表示信号出力部14を制御する。
図1に示すように、遠隔操作装置2は、第1の制御部21、第1の通信部22、操作認識部23および表示信号出力部24を備える。第1の通信部22は、ネットワークを介して被操作装置1と通信を行う。操作認識部23は操作部26と接続され、操作部26において行われる操作を認識する。表示信号出力部24は表示部25と接続され、表示部25に対して表示信号を出力する。第1の制御部21は、操作認識部23の操作に応じて、第1の通信部22および表示信号出力部24を制御する。
図2は、本発明の実施形態における遠隔操作システムのハードウェア構成図である。被操作装置1はコンピュータであり、グラフィカルユーザーインタフェースとして複数のウインドウを表示することが可能なウインドウシステムが提供されている汎用のオペレーティングシステム(以降、オペレーティングシステムをOSと称する)が搭載されている。この汎用OSとしては、例えば、Microsoft Windows(登録商標)オペレーティングシステムなどがあるが、他のOSであっても構わない。
被操作装置1は、通信装置1b、プロセッサー1aおよび記憶装置1cを備える。なお、被操作装置1に入出力インターフェース1dが備わる構成としてもよい。入出力インターフェース1dには、例えば、表示部15としてのディスプレイ1e、操作部16としてのキーボード1fおよびマウス1gが接続される。プロセッサー1aが記憶装置1cに記憶されているプログラムに基づく処理を行うことにより、第2の制御部11が実現される。通信装置1bがプロセッサー1aの命令に基づいて動作することにより、第2の通信部12が実現される。入出力インターフェース1dがプロセッサー1aの命令に基づいて例えばディスプレイ1eに対して画像を表示するための表示信号を出力することにより、表示信号出力部14が実現される。プロセッサー1aが、入出力インターフェース1dを介して例えばキーボード1fまたはマウス1gからの操作を認識することにより、操作認識部13が実現される。
被操作装置1に接続されたディスプレイ1eに出力される表示信号の画面6は、例えば横1920画素、縦1080画素の解像度である。ディスプレイ1eには、例えば4つのウインドウ7A、7B、7C、7Dが表示されている。カーソル8は被操作装置1のカーソルである。カーソル8は、画面6の範囲内において移動可能である。
遠隔操作装置2はコンピュータであり、グラフィカルユーザーインタフェースとして複数のウインドウを表示することが可能なウインドウシステムが提供されている汎用のOSが搭載されている。
遠隔操作装置2は、通信装置2b、プロセッサー2a、記憶装置2cおよび入出力インターフェース2dを備える。入出力インターフェース2dには、例えば、表示部25としてのディスプレイ2e、操作部26としてのキーボード2fおよびマウス2gが接続される。プロセッサー2aが記憶装置2cに記憶されているプログラムに基づく処理を行うことにより、第1の制御部21が実現される。通信装置2bがプロセッサー2aの命令に基づいて動作することにより、第1の通信部22が実現される。入出力インターフェース2dがプロセッサー2aの命令に基づいて例えばディスプレイ1eに対して画像を表示するための表示信号を出力することにより、表示信号出力部24が実現される。プロセッサー2aが、入出力インターフェース2dを介して例えばキーボード1fまたはマウス1gからの操作を認識することにより、操作認識部23が実現される。
遠隔操作装置2に接続されたディスプレイ2eの画面27には、遠隔操作用ウインドウ10が表示されている。カーソル9は遠隔操作装置2のカーソルである。
ネットワーク3は被操作装置1と遠隔操作装置2の間に設けられ、被操作装置1と遠隔操作装置2との相互通信を可能とするものである。本実施形態では相互の通信には、汎用の通信規格、例えばEthernet(登録商標)などを使用するものとするが、他のネットワークであっても構わない。
図4は、表示ウインドウ情報リストを示す図である。表示ウインドウ情報リストとは、被操作装置1において表示されている(即ち被操作装置1において開かれている)すべてのウインドウに関する情報のリストである。表示ウインドウ情報リストは、被操作装置1において表示されているウインドウ数分のウインドウ情報から構成されている。図4において、先頭を除く各行が1つのウインドウ情報である。ウインドウ情報はウインドウの名称であるウインドウタイトル、ウインドウ固有の識別子であるウインドウハンドル、ウインドウの左上端の座標であるウインドウ位置、ウインドウの幅、高さであるウインドウサイズから構成される。図3に示すように、被操作装置1の画面6には4つのウインドウ7A、7B、7C、7Dが表示されているため、表示ウインドウ情報リストは4つのウインドウ情報から構成される。
遠隔操作装置2の第1の制御部21は、第1の通信部22を介して取得した表示ウインドウ情報リストに基づいて、表示信号出力部24にウインドウ一覧を表示する表示信号を出力させる。図5は、ディスプレイ2eの画面27に表示されるウインドウ一覧の一例を示す図である。使用者は、ウインドウ一覧の中から、操作を行う対象のウインドウである操作対象ウインドウを、例えばマウスで2gを操作して選択する。
遠隔操作装置2の第1の制御部21は、ウインドウ一覧において選択された操作対象ウインドウを表示するためのウインドウである、遠隔操作用ウインドウ10を画面27に表示する。図6は遠隔操作用ウインドウ10を示す図である。図6において、遠隔操作用ウインドウ10は操作対象ウインドウと同じ幅の画素、及び高さの画素のクライアント領域を持つウインドウとして生成される。クライアント領域とはウインドウのタイトルバー及びボーダーを除いた領域である。図6ではタイトルバー及びボーダーの無いウインドウを示している。第1の制御部21は、遠隔操作用ウインドウ10のクライアント領域内にカーソル9が存在する場合、キーボード2fやマウス2gの操作情報を取得する。使用者は、操作対象ウインドウ内すべての位置を操作可能である。
図7に操作情報の一例を示す。図7に示すように操作情報は「操作種類」と「データ1」と「データ2」という3つの情報から構成される。操作種類はキーボードやマウスの操作の種類を表す。
図8は、図7の操作種類欄で使用する操作種類の定義を示す図である。「操作種類」の欄が操作種類の名称、「内容」の欄が操作の内容を示す。図8に示す操作種類は一部であり、ここに示していない操作種類であっても良い。データ1及びデータ2は操作種類に応じたデータである。図9は、操作種類に応じたデータ1及びデータ2の一例を示す図である。図9において、カーソル位置はカーソルの遠隔操作用ウインドウにおけるクライアント座標を表す。遠隔操作用ウインドウのクライアント座標とは、遠隔操作用ウインドウのクライアント領域の左上端の位置を原点(0,0)とした時の相対的なカーソルの座標のことである。図7において1つ目の操作情報(WM_LBUTTONDOWN)はマウスの左ボタンがカーソル位置(50,50)で押されたことを表す。また、2つ目の操作情報(WM_LBUTTONUP)はマウスの左ボタンがカーソル位置(50,50)で離されたことを表す。3つ目の操作情報(WM_KEYDOWN)は「A」というキーが押されたことを表す。4つ目の操作情報(WM_KEYUP)は「A」というキーが離されたことを表す。
遠隔操作装置2の第1の制御部21は、第1の通信部22を制御して、操作情報と、操作対象ウインドウの表示ウインドウ情報である操作対象ウインドウ情報を、被操作装置1へ送信する。
被操作装置1の第2の制御部11は、第2の通信部12を介して、操作情報及び操作対象ウインドウ情報を遠隔操作装置2から受信する。第2の制御部11は、被操作装置1の画面6上のカーソル8のカーソル位置を計算する。操作情報に含まれるカーソル位置を(lpx,lpy)、被操作装置1の画面6上の操作対象ウインドウの左上端の位置を(twinx,twiny)、操作対象ウインドウの大きさを(twinw,twinh)とすると、被操作装置1の画面6上のカーソル8のカーソル位置(rpx,rpy)は下記の計算式で求まる。
rpx=twinx+lpx…(式1)
rpy=twiny+lpy…(式2)
被操作装置1の第2の制御部11は、操作対象ウインドウを最前面に配置する。そして、第2の制御部11は、操作情報がマウス操作の情報であった場合、被操作装置1の画面6上のカーソル8のカーソル位置(rpx,rpy)が画面6の画面外にあるかどうか判定を行う。具体的には被操作装置1の画面6上のカーソル8のカーソル位置を(rpx,rpy)、画面6の画面サイズを(dispw,disph)とすると、以下の式3および式4を満たすかどうかで判定する。
0≦rpx<dispw…(式3)
0≦rpy<disph…(式4)
上記の式3および式4の両方を満たす場合はカーソル8が画面内にあると判定する。それ以外の場合はカーソル8が画面外にあると判定する。カーソル8が画面外にあると判定された場合、操作対象ウインドウの左上端が下記の計算式にて求めた位置(ntwinx,ntwiny)に位置するように操作対象ウインドウを移動する。
ntwinx=twinx−(rpx−centerx)…(式5)
ntwiny=twiny−(rpy−centery)…(式6)
上記式5、式6において(centerx,centery)は被操作装置1の画面6の中心の座標である。
第2の制御部11は、操作対象ウインドウを移動後、被操作装置1の画面6のカーソル8をカーソル位置(centerx,centery)へ移動する。本実施例では操作対象ウインドウの移動後にカーソル8を移動したが、操作対象ウインドウ移動前にカーソル8を移動しても良い。
被操作装置1の第2の制御部11は、操作情報のカーソル位置を新しいカーソル位置(centerx,centery)に変更した操作情報を生成し、操作情報に基づいて、操作対象ウインドウに対して処理を実行する。
<動作>
図10および図11は、本発明の実施形態における遠隔操作システムの動作を示すフローチャートである。以下、使用者が、操作対象ウインドウとして被操作装置1のウインドウ7Cを選択する場合を例にとって説明する。
遠隔操作装置2の第1の制御部21は、第1の通信部22を介して、被操作装置1の画面6に表示されているすべてのウインドウに関する情報である表示ウインドウ情報リスト(図4)を取得する(ステップS1)。被操作装置1において4つのウインドウ7A,7B,7C,7Dが開かれている。即ち、被操作装置1に接続されたディスプレイ6には4つのウインドウ7A、7B、7C、7Dが表示されている(図3)。
次に、遠隔操作装置2の第1の制御部21は、表示ウインドウ情報リストに基づいて、表示ウインドウ一覧を表示信号出力部24に出力させる。図5に示すように、ディスプレイ2eの画面27にはウインドウ一覧が表示される(ステップS2)。図5において、ウインドウ7Aを選択するボタン30、ウインドウ7Bを選択するボタン31、ウインドウ7Cを選択するボタン32、ウインドウ7Dを選択するボタン33が配置されている。各ボタン30〜33には各ウインドウのウインドウタイトルが表示されており、被操作装置1の画面6上に表示されているウインドウとの対応関係がわかるようになっている。使用者は例えばマウス2gを操作して、ボタン32を押してウインドウ7Cを操作対象ウインドウとして選択する。
次に、遠隔操作装置2の第1の制御部21は、表示ウインドウ情報リストから選択されたウインドウ7Cのウインドウサイズを取得する(ステップS3)。ウインドウ7Cのウインドウサイズは(640,512)である。第1の制御部21は、表示信号出力部24を制御して、クライアント領域の大きさが(640,512)となる遠隔操作用ウインドウ10をディスプレイ2eの画面27に表示させる。そして、第1の制御部21は、使用者が操作するキーボード2fやマウス2gの操作情報を取得する(ステップS4)。
図12は遠隔操作装置におけるカーソル位置と被操作装置におけるカーソル位置を示す図である。図12に示すように、遠隔操作用ウインドウ10のクライアント領域上の(320,256)の位置でマウス2gの左ボタンを押すという操作が行われた場合、操作種類がWM_LBUTTONDOWN、データ1がMK_LBUTTON、データ2がカーソル位置(320,256)という操作情報が生成される。遠隔操作装置2の第1の制御部21は、第1の通信部22を介して、この操作情報および操作対象ウインドウであるウインドウ7Cのウインドウ情報を、被操作装置1に送信する(ステップS5)。
被操作装置1の第2の制御部11は、第2の通信部12を介して、操作情報およびウインドウ7Cのウインドウ情報を受信する。第2の制御部11は、受信した操作情報に含まれるマウスに関する操作情報から、被操作装置1の画面6上におけるカーソル8のカーソル位置(rpx,rpy)を式1および式2を用いて計算する(ステップS6)。
ウインドウ7Cのウインドウ情報から(twinx,twiny)=(1700,800)、操作情報から(lpx,lpy)=(320,256)であるので、(rpx,rpy)は以下のように求まる。
rpx=twinx+lpx=1700+320=2020
rpy=twiny+lpy=800+256=1056
従って、図12に示すように、被操作装置1の画面6上のカーソル8のカーソル位置は(2020,1056)となる。
次に、被操作装置1の第2の制御部11は、操作対象ウインドウであるウインドウ7Cを最前面に配置する(ステップS7)。さらに、第2の制御部11は、被操作装置1の画面6上のカーソル8が画面6の外にあるかどうかを、式3および式4を用いて判定する(ステップS8)。(rpx,rpy)=(2020,1056)、(dispw,disph)=(1920,1080)を式3および式4に代入すると、0≦2020<1920(式3)、0≦1056<1080(式4)となり、式3が成立しない。よって、カーソル8は画面6外にあると判定される。次に、ステップS8においてカーソル8が画面6外にあると判定されたので、第2の制御部11は、式5および式6を用いて操作対象ウインドウ7Cの移動後の右上端の位置(ntwinx,tnwiny)を計算する(ステップS9)。
ここで、(twinx,twiny)=(1700,800)、(rpx,rpy)=(2020,1056)、(centerx,centery)=(1920/2=960,1080/2=540)であるので、式5および式6より、操作対象ウインドウ7Cの移動後の右上端の位置(ntwinx,ntwiny)は下記のとおりとなる。
ntwinx=twinx−(rpx−centerx)=1700−(2020−960)=648
ntwiny=twinx−(rpx−centerx)=800−(1056−540)=284
次に、第2の制御部11は、操作対象ウインドウ7Cの右上端の位置が(640,284)になるようにウインドウ7Cを移動する。さらに、第2の制御部11は、カーソル8のカーソル位置を画面6の中央である位置(960,540)に移動する(ステップS10)。図13は、ウインドウ7Cおよびカーソル8を移動した後の画面6を示す図である。以上の処理によって、操作対象ウインドウ7Cとカーソル8の位置関係を保持したまま、カーソル8が画面6内に来るように、操作対象ウインドウ7Cとカーソル8の位置が変更された。
次に、第2の制御部11は、操作情報の操作種類は「WM_LBUTTONDOWN」のまま、操作情報のカーソル位置をカーソル8のカーソル位置と同じ(960,540)に変更する(ステップS11)。そして、第2の制御部11は、変更した操作情報に基づいて、操作対象ウインドウ7Cに対して「WM_LBUTTONDOWN」の処理を実行する(ステップS12)。
なお、上記説明では、被操作装置1のカーソル8が画面6の中央に来るように操作対象ウインドウおよびカーソル8を移動したが、必ずしもカーソル8が画面6の中央に来る必要はなく、画面6内にあれば良い。
一方、ステップS8において被操作装置1のカーソル8が画面6の外にない(即ち、カーソル8が画面6内にある)と判定された場合、ステップS12に進む。このステップにおいて、第2の制御部11は、ウインドウ7Cおよびカーソル8の位置を変更することなく、操作情報に基づいて、操作対象ウインドウ7Cに対して「WM_LBUTTONDOWN」の処理を実行する。
<効果>
本発明の実施形態における遠隔操作システムは、ネットワーク3を介して接続される被操作装置1と遠隔操作装置2とを備える遠隔操作システムであって、遠隔操作装置2は、被操作装置1とネットワーク3を介して通信を行う第1の通信部22と、遠隔操作装置2に対する操作を認識する操作認識部23と、表示信号を出力する表示信号出力部24と、第1の制御部21と、を備え、被操作装置1は、遠隔操作装置2とネットワーク3を介して通信を行う第2の通信部12と、第2の制御部11と、を備え、第1の制御部21は、第1の通信部22を介して被操作装置1において開かれているウインドウの情報に関する表示ウインドウ情報リストを取得し、第1の制御部21は、表示信号出力部24に表示ウインドウ情報リストに基づいてウインドウ一覧を表示する表示信号を出力させ、第1の制御部21は、操作認識部23がウインドウ一覧のいずれかのウインドウが選択される操作を認識すると、第1の通信部22を介して被操作装置1にどのウインドウが選択されたかを通知し、第1の制御部21は、表示信号出力部24に、選択されたウインドウに対応した遠隔操作用ウインドウ10を表示する表示信号を出力させ、第1の制御部21は、第1の通信部22を介して、操作認識部23が認識する遠隔操作用ウインドウ10に対する操作を含む操作情報を被操作装置1に送信し、第2の通信部12は、ウインドウ一覧のうちどのウインドウが選択されたかを遠隔操作装置2から受信し、第2の通信部12は、操作情報を遠隔操作装置2から受信し、第2の制御部11は、操作情報に基づいて、被操作装置1におけるカーソル位置を計算し、第2の制御部11は、カーソル位置が、カーソル8が移動可能な領域外であった場合、選択されたウインドウの位置とカーソル位置との相対的な位置関係を保持したまま、カーソル位置がカーソル8が移動可能な領域内に来るように、選択されたウインドウの位置およびカーソル位置を変更した後、選択されたウインドウに対して操作情報に基づいて処理を実行する。
従って、遠隔操作装置2は、複数のウインドウのうち選択されたウインドウを遠隔操作用ウインドウ10に表示するため、使用者は、選択されたウインドウに対してのみ操作が可能となる。よって、使用者が誤って他のウインドウに対して操作を行ってしまうことを防止することが可能である。
また、被操作装置1において、操作対象のウインドウの操作したい部分が画面6外にある場合でも、ウインドウの操作したい位置がカーソル8で操作可能な画面6内に入るように移動され、また、同時にカーソル位置もウインドウとの位置関係を保持したまま移動される。よって、遠隔操作装置2を操作する使用者は、自分で操作対象のウインドウの位置を変更する操作を行う必要がないため、使用者が誤った操作を行うことを抑制することが可能となる。また、画面6より大きなサイズのウインドウに対して操作を行う場合においても、容易に操作が可能となる。
また、本発明の実施形態における遠隔操作システムにおいて、第2の制御部11は、選択されたウインドウを最前面に配置する。
従って、被操作装置1において、操作対象のウインドウが他のウインドウの下に隠れている場合であっても、自動的に操作対象のウインドウを最前面に配置する。よって、遠隔操作装置2を操作する使用者は、自分で操作対象のウインドウを前面に配置する操作を行う必要がないため、使用者が誤った操作を行うことを抑制することが可能となる。
また、本発明の実施形態における情報処理方法は、ネットワーク3を介して接続される被操作装置1と遠隔操作装置2とを備える遠隔操作システムにおける情報処理方法であって、(a)遠隔操作装置2において、被操作装置1において開かれているウインドウの情報に関する表示ウインドウ情報リストを取得する工程と、(b)遠隔操作装置2において、表示ウインドウ情報リストに基づくウインドウ一覧を表示する表示信号を出力する工程と、(c)遠隔操作装置2において、ウインドウ一覧のいずれかのウインドウが選択されると、被操作装置1にどのウインドウが選択されたかを通知する工程と、(d)遠隔操作装置2において、選択されたウインドウに対応した遠隔操作用ウインドウ10を表示する表示信号を出力する工程と、(e)遠隔操作装置2において、遠隔操作用ウインドウ10に対する操作を含む操作情報を被操作装置1に送信する工程と、(f)被操作装置1において、ウインドウ一覧のうちどのウインドウが選択されたかを遠隔操作装置2から受信する工程と、(g)被操作装置1において、操作情報を遠隔操作装置2から受信する工程と、(h)被操作装置1において、操作情報に基づいて被操作装置1におけるカーソル位置を計算する工程と、(i)工程(h)の後、被操作装置1において、計算したカーソル位置が、カーソル8が移動可能な領域外であった場合、選択されたウインドウの位置と計算したカーソル位置との相対的な位置関係を保持したまま、カーソル位置がカーソル8が移動可能な領域内に来るように、選択されたウインドウの位置およびカーソル位置を変更する工程と、(j)工程(i)の後、被操作装置1において、選択されたウインドウに対して操作情報に基づいて処理を実行する工程と、を備える。
従って、遠隔操作装置2は、複数のウインドウのうち選択されたウインドウを遠隔操作用ウインドウ10に表示するため、使用者は、選択されたウインドウに対してのみ操作が可能となる。よって、使用者が誤って他のウインドウに対して操作を行ってしまうことを防止することが可能である。
また、被操作装置1において、操作対象のウインドウの操作したい部分が画面6外にある場合でも、ウインドウの操作したい位置がカーソル8で操作可能な画面6内に入るように移動され、また、同時にカーソル位置もウインドウとの位置関係を保持したまま移動される。よって、遠隔操作装置2を操作する使用者は、自分で操作対象のウインドウの位置を変更する操作を行う必要がないため、使用者が誤った操作を行うことを抑制することが可能となる。また、画面6より大きなサイズのウインドウに対して操作を行う場合においても、容易に操作が可能となる。
また、本発明の実施形態における情報処理方法は、(k)被操作装置1において、選択されたウインドウを最前面に配置する工程をさらに備える。
従って、被操作装置1において、操作対象のウインドウが他のウインドウの下に隠れている場合であっても、自動的に操作対象のウインドウを最前面に配置する。よって、遠隔操作装置2を操作する使用者は、自分で操作対象のウインドウを前面に配置する操作を行う必要がないため、使用者が誤った操作を行うことを抑制することが可能となる。
この発明は詳細に説明されたが、上記した説明は、すべての局面において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。
1 被操作装置、2 遠隔操作装置、3 ネットワーク、11 第2の制御部、12 第2の通信部、13 操作認識部、14 表示信号出力部、15 表示部、16 操作部、21 第1の制御部、22 第1の通信部、23 操作認識部、24 表示信号出力部、25 表示部、26 操作部、1a,2a プロセッサー、1b,2b 通信装置、1c,2c 記憶装置、1d,2d 入出力インターフェース、1e,2e ディスプレイ、1f,2f キーボード、1g,2g マウス、6,27 画面、8,9 カーソル、10 遠隔操作用ウインドウ、7A,7B,7C,7D ウインドウ。

Claims (4)

  1. ネットワーク(3)を介して接続される被操作装置(1)と遠隔操作装置(2)とを備える遠隔操作システムであって、
    前記遠隔操作装置(2)は、
    前記被操作装置(1)と前記ネットワーク(3)を介して通信を行う第1の通信部(22)と、
    前記遠隔操作装置(2)に対する操作を認識する操作認識部(23)と、
    表示信号を出力する表示信号出力部(24)と、
    第1の制御部(21)と、
    を備え、
    前記被操作装置(1)は、
    前記遠隔操作装置(2)と前記ネットワーク(3)を介して通信を行う第2の通信部(12)と、
    第2の制御部(11)と、
    を備え、
    前記第1の制御部(21)は、前記第1の通信部(22)を介して前記被操作装置(1)において開かれているウインドウの情報に関する表示ウインドウ情報リストを取得し、
    前記第1の制御部(21)は、前記表示信号出力部(24)に前記表示ウインドウ情報リストに基づくウインドウ一覧を表示する表示信号を出力させ、
    前記第1の制御部(21)は、前記操作認識部(23)が前記ウインドウ一覧のいずれかの前記ウインドウが選択される操作を認識すると、前記第1の通信部(22)を介して前記被操作装置(1)にどの前記ウインドウが選択されたかを通知し、
    前記第1の制御部(21)は、前記表示信号出力部(24)に、選択された前記ウインドウに対応した遠隔操作用ウインドウ(10)を表示する表示信号を出力させ、
    前記第1の制御部(21)は、前記第1の通信部(22)を介して、前記操作認識部(23)が認識する前記遠隔操作用ウインドウ(10)に対する操作を含む操作情報を前記被操作装置(1)に送信し、
    前記第2の通信部(12)は、前記ウインドウ一覧のうちどの前記ウインドウが選択されたかを前記遠隔操作装置(2)から受信し、
    前記第2の通信部(12)は、前記操作情報を前記遠隔操作装置(2)から受信し、
    前記第2の制御部(11)は、前記操作情報に基づいて、前記被操作装置(1)におけるカーソル位置を計算し、
    前記第2の制御部(11)は、計算した前記カーソル位置が、当該カーソル(8)が移動可能な領域外であった場合、選択された前記ウインドウの位置と計算した前記カーソル位置との相対的な位置関係を保持したまま、前記カーソル位置が当該カーソル(8)が移動可能な領域内に来るように、選択された前記ウインドウの位置および前記カーソル位置を変更した後、選択された前記ウインドウに対して前記操作情報に基づいて処理を実行する、
    遠隔操作システム。
  2. 前記第2の制御部(11)は、選択された前記ウインドウを最前面に配置する、
    請求項1に記載の遠隔操作システム。
  3. ネットワーク(3)を介して接続される被操作装置(1)と遠隔操作装置(2)とを備える遠隔操作システムにおける情報処理方法であって、
    (a)前記遠隔操作装置(2)において、前記被操作装置(1)において開かれているウインドウの情報に関する表示ウインドウ情報リストを取得する工程と、
    (b)前記遠隔操作装置(2)において、前記表示ウインドウ情報リストに基づくウインドウ一覧を表示する表示信号を出力する工程と、
    (c)前記遠隔操作装置(2)において、前記ウインドウ一覧のいずれかの前記ウインドウが選択されると、前記被操作装置にどの前記ウインドウが選択されたかを通知する工程と、
    (d)前記遠隔操作装置(2)において、選択された前記ウインドウに対応した遠隔操作用ウインドウ(10)を表示する表示信号を出力する工程と、
    (e)前記遠隔操作装置(2)において、前記遠隔操作用ウインドウ(10)に対する操作を含む操作情報を前記被操作装置(1)に送信する工程と、
    (f)前記被操作装置(1)において、前記ウインドウ一覧のうちどの前記ウインドウが選択されたかを前記遠隔操作装置(2)から受信する工程と、
    (g)前記被操作装置(1)において、前記操作情報を前記遠隔操作装置(2)から受信する工程と、
    (h)前記被操作装置(1)において、前記操作情報に基づいて前記被操作装置(1)におけるカーソル位置を計算する工程と、
    (i)前記工程(h)の後、前記被操作装置(1)において、計算した前記カーソル位置が、当該カーソル(8)が移動可能な領域外であった場合、選択された前記ウインドウの位置と計算した前記カーソル位置との相対的な位置関係を保持したまま、前記カーソル位置が当該カーソル(8)が移動可能な領域内に来るように、選択された前記ウインドウの位置および前記カーソル位置を変更する工程と、
    (j)前記工程(i)の後、前記被操作装置(1)において、選択された前記ウインドウに対して前記操作情報に基づいて処理を実行する工程と、
    を備える、
    情報処理方法。
  4. (k)前記被操作装置(1)において、選択された前記ウインドウを最前面に配置する工程をさらに備える、
    請求項3に記載の情報処理方法。
JP2016564738A 2014-12-17 2015-11-12 遠隔操作システムおよび情報処理方法 Expired - Fee Related JP6234612B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014254871 2014-12-17
JP2014254871 2014-12-17
PCT/JP2015/081844 WO2016098497A1 (ja) 2014-12-17 2015-11-12 遠隔操作システムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2016098497A1 JPWO2016098497A1 (ja) 2017-04-27
JP6234612B2 true JP6234612B2 (ja) 2017-11-22

Family

ID=56126396

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016564738A Expired - Fee Related JP6234612B2 (ja) 2014-12-17 2015-11-12 遠隔操作システムおよび情報処理方法

Country Status (5)

Country Link
US (1) US20170277548A1 (ja)
JP (1) JP6234612B2 (ja)
CN (1) CN107003793A (ja)
RU (1) RU2665921C1 (ja)
WO (1) WO2016098497A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6565878B2 (ja) * 2016-11-25 2019-08-28 トヨタ自動車株式会社 表示システム
JP7117553B2 (ja) * 2018-01-29 2022-08-15 パナソニックIpマネジメント株式会社 スイッチ装置およびスイッチシステム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH078060B2 (ja) * 1989-03-28 1995-01-30 松下電器産業株式会社 リモコン操作型電子機器制御システム
US7289244B2 (en) * 2000-02-02 2007-10-30 Raja Singh Tuli Portable high speed internet access device
US6882755B2 (en) * 2001-10-19 2005-04-19 Hewlett-Packard Development Company, L.P. Image transmission for low bandwidth with region of interest
US7293243B1 (en) * 2002-05-22 2007-11-06 Microsoft Corporation Application sharing viewer presentation
WO2003102869A2 (en) * 2002-06-04 2003-12-11 Billy Dennis Williams Device and method for memory reallocation with panning and scrolling area of display image
JP2005301908A (ja) * 2004-04-15 2005-10-27 Toshiba Corp 情報機器遠隔操作システム
EP1818812B1 (en) * 2006-01-25 2016-01-06 Brandt Technologies Limited System and method for effecting simultaneous control of remote computers
KR20080018061A (ko) * 2006-08-23 2008-02-27 주식회사 로직플랜트 원격지 컴퓨터 제어를 위한 사용자 인터페이스 방법
US20080238929A1 (en) * 2007-03-30 2008-10-02 Nadim Abdo Local Themeing Of Remote Applications
JP2009205492A (ja) * 2008-02-28 2009-09-10 Hitachi Systems & Services Ltd コンピュータの遠隔操作システム
US8176434B2 (en) * 2008-05-12 2012-05-08 Microsoft Corporation Virtual desktop view scrolling
US8375336B2 (en) * 2008-05-23 2013-02-12 Microsoft Corporation Panning content utilizing a drag operation
KR20100002211A (ko) * 2008-06-26 2010-01-06 정용석 커서 이동 제어 방법 및 장치
JP5067409B2 (ja) * 2009-09-28 2012-11-07 カシオ計算機株式会社 シンクライアントシステム及びプログラム
US9740507B2 (en) * 2010-04-01 2017-08-22 Citrix Systems, Inc. Interacting with remote applications displayed within a virtual desktop of a tablet computing device

Also Published As

Publication number Publication date
US20170277548A1 (en) 2017-09-28
RU2665921C1 (ru) 2018-09-04
WO2016098497A1 (ja) 2016-06-23
JPWO2016098497A1 (ja) 2017-04-27
CN107003793A (zh) 2017-08-01

Similar Documents

Publication Publication Date Title
JP6086955B2 (ja) サーバ装置、アノテーション方法及びコンピュータプログラム
KR20130108643A (ko) 응시 및 제스처 인터페이스를 위한 시스템들 및 방법들
CN106468917B (zh) 一种可触摸现场实时视频图像的远程呈现交互方法和系统
US20170220205A1 (en) Information processing device, information processing method, and program
JP2012238101A5 (ja)
JP6234612B2 (ja) 遠隔操作システムおよび情報処理方法
JP6322485B2 (ja) 情報提供装置
US20120313968A1 (en) Image display system, information processing apparatus, display device, and image display method
JP2007172303A (ja) 情報入力システム
US10572003B2 (en) Information processing device and information processing method
JP2005063225A (ja) 自己画像表示を用いたインタフェース方法、装置、ならびにプログラム
JP2006268209A (ja) ユーザの身体動作による遠隔命令入力装置
US20170205899A1 (en) Display control device, display control method, and program
CN107710087A (zh) 控制具有悬停弹出式面板的应用窗口
CN107924272B (zh) 信息处理装置、信息处理方法和程序
JP2013109538A (ja) 入力方法及び入力装置
TWI395485B (zh) 監控系統與畫面顯示方法
JP2016192014A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6161997B2 (ja) 医用画像表示システム
JP5274688B2 (ja) 情報処理装置、kvmスイッチ及び制御プログラム
US8650344B2 (en) Method for operating KVM switch with independent on-screen display and control channels
JP2015042202A5 (ja)
CN118020110A (zh) 具有手术台和遥控器的医疗系统、手术台和遥控器以及操作具有手术台的医疗系统的方法
Yang et al. Real time 3D hand tracking for 3D modelling applications
JP2016042154A (ja) 情報表示装置、情報表示システム、情報表示方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171024

R150 Certificate of patent or registration of utility model

Ref document number: 6234612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees