JP2018072949A - 送信制御プログラム、送信制御方法および情報処理装置 - Google Patents

送信制御プログラム、送信制御方法および情報処理装置 Download PDF

Info

Publication number
JP2018072949A
JP2018072949A JP2016208967A JP2016208967A JP2018072949A JP 2018072949 A JP2018072949 A JP 2018072949A JP 2016208967 A JP2016208967 A JP 2016208967A JP 2016208967 A JP2016208967 A JP 2016208967A JP 2018072949 A JP2018072949 A JP 2018072949A
Authority
JP
Japan
Prior art keywords
image information
transmission control
information
unit
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016208967A
Other languages
English (en)
Other versions
JP6759974B2 (ja
Inventor
伊織 村上
Iori Murakami
伊織 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016208967A priority Critical patent/JP6759974B2/ja
Priority to US15/726,072 priority patent/US20180114295A1/en
Publication of JP2018072949A publication Critical patent/JP2018072949A/ja
Application granted granted Critical
Publication of JP6759974B2 publication Critical patent/JP6759974B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4092Image resolution transcoding, e.g. by using client-server architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/16Indexing scheme for image data processing or generation, in general involving adaptation to the client's capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/02Transmitters

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Digital Computer Display Output (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】表示端末に送信するデータ量の増大を抑制することができる送信制御プログラム、送信制御方法および情報処理装置を提供する。【解決手段】送信制御プログラムは、ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータに実行させる。送信制御プログラムは、表示端末により送信された画像情報の範囲を指定する情報を受信すると、ヘッドマウントディスプレイに表示される画像情報のうち、受信した情報に応じた範囲の画像情報を抽出する処理をコンピュータに実行させる。送信制御プログラムは、抽出した画像情報を表示端末に送信する処理をコンピュータに実行させる。【選択図】図1

Description

本発明は、送信制御プログラム、送信制御方法および情報処理装置に関する。
近年、ヘッドマウントディスプレイ(以下、HMD(Head Mounted Display)ともいう。)等を用いて、例えば工場などの保守作業を行うことが提案されている。このような場合において、HMDは、作業者が所持する端末に接続され、端末で動作するアプリケーションの画面を表示する。このときHMDは、HMD側の各種設定を行うことが求められる場合がある。この場合、HMDの画面を端末に転送して、端末からHMDに対してリモート操作を行うことで操作が行われる。また、操作端末での操作に応じて、据置型端末やメガネ型端末に表示させる画像を生成して送信することが提案されている。
特開2015−215465号公報 特開平7−104210号公報
しかしながら、端末からHMDに対してリモート操作を行うために、例えば無線を用いて画面を転送する場合、転送レートの制約から転送する画面の解像度を低く設定すると、画面の文字がかすれて可読性が悪くなる場合がある。これに対し、転送する画面の解像度を高く設定すると、フレームレートが低下するとともに転送するデータ量が増大する場合がある。
一つの側面では、本発明は、表示端末に送信するデータ量の増大を抑制することができる送信制御プログラム、送信制御方法および情報処理装置を提供することにある。
一つの態様では、送信制御プログラムは、ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータに実行させる。送信制御プログラムは、前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出する処理をコンピュータに実行させる。送信制御プログラムは、抽出した前記画像情報を前記表示端末に送信する処理をコンピュータに実行させる。
表示端末に送信するデータ量の増大を抑制することができる。
図1は、実施例の送信制御システムの構成の一例を示すブロック図である。 図2は、画像全体を縮小して送信する場合の一例を示す図である。 図3は、端末装置で画像が拡大された場合の一例を示す図である。 図4は、実施例の送信制御処理の一例を示すシーケンス図である。 図5は、送信制御プログラムを実行するコンピュータの一例を示す図である。
以下、図面に基づいて、本願の開示する送信制御プログラム、送信制御方法および情報処理装置の実施例を詳細に説明する。なお、本実施例により、開示技術が限定されるものではない。また、以下の実施例は、矛盾しない範囲で適宜組みあわせてもよい。
図1は、実施例の送信制御システムの構成の一例を示すブロック図である。図1に示す送信制御システム1は、HMD10と、端末装置100とを有する。HMD10と端末装置100とは、例えば1対1で無線により接続される。すなわち、HMD10は、端末装置100の表示部の一例として機能させることができる。また、HMD10は、端末装置100と接続した状態で、HMD10に表示される画像情報、つまり画面を端末装置100に転送し、端末装置100で転送された画面が共有されることでリモート操作されることができる。なお、図1では、HMD10と端末装置100との組について、1組を一例として示したが、HMD10と端末装置100との組の数は限定されず、任意の数のHMD10と端末装置100との組を有してもよい。
HMD10と端末装置100との間は、例えば、Wi−Fi Direct(登録商標)等の無線LAN(Local Area Network)により相互に通信可能に接続される。なお、HMD10と端末装置100との間は、有線で接続されるようにしてもよい。
HMD10は、ユーザが端末装置100とともに装着し、端末装置100から送信される表示画面を表示部に表示する情報処理装置である。なお、HMD10は、ユーザが単独で装着してもよい。また、HMD10は、端末装置100と接続した状態で、HMD10に表示される画像情報、つまり画面を端末装置100に送信する。HMD10は、例えば、単眼の透過型のHMDを用いることができる。なお、HMD10は、例えば、両眼用や没入型等の各種のHMDを用いるようにしてもよい。また、HMD10は、頭部に装着するディスプレイであれば、例えば、眼鏡型や帽子型等の各種のHMDを用いるようにしてもよい。
また、HMD10は、端末装置100により送信された画像情報の範囲を指定する情報を受信すると、HMD10の表示部に表示される画像情報のうち、受信した情報に応じた範囲の画像情報を抽出する。HMD10は、抽出した画像情報を端末装置100に送信する。これにより、HMD10は、端末装置100に送信するデータ量の増大を抑制することができる。
端末装置100は、表示端末の一例であり、例えばユーザが装着して操作する情報処理装置である。端末装置100は、例えば、タブレット端末やスマートフォン等の移動体通信端末等を用いることができる。端末装置100は、例えば、HMD10から画像情報を受信すると、受信した画像情報を表示部に表示して、HMD10と画像情報、つまり画面を共有する。端末装置100は、ユーザから画像の拡縮操作を受け付けると、拡縮操作に基づく拡縮比率を取得して、拡縮比率を含んで範囲を指定する指定情報をHMD10に送信する。端末装置100は、HMD10から指定情報に応じた範囲の画像情報を受信して表示する。
次に、HMD10の構成について説明する。図1に示すように、HMD10は、通信部11と、表示部12と、記憶部13と、制御部14とを有する。なお、HMD10は、図1に示す機能部以外にも、例えば各種の入力デバイスや音声出力デバイス等の機能部を有することとしてもかまわない。
通信部11は、例えば、無線LAN等の通信モジュール等によって実現される。通信部11は、例えば、Wi−Fi Direct(登録商標)により端末装置100と無線で接続され、端末装置100との間で情報の通信を司る通信インタフェースである。通信部11は、制御部14から入力された表示部12に表示される画像情報または抽出された画像情報を端末装置100に送信する。また、通信部11は、端末装置100から画面を共有するための接続要求、画像情報の範囲を指定する指定情報および操作情報を受信する。通信部11は、受信した接続要求、指定情報および操作情報を制御部14に出力する。
表示部12は、各種情報を表示するための表示デバイスである。表示部12は、例えば、ハーフミラーに映像が投影され、ユーザが映像とともに外部の風景を透過して見ることができる透過型のHMDの表示素子に相当する。なお、表示部12は、没入型、ビデオ透過型、網膜投影型等のHMDに対応する表示素子でもよい。
記憶部13は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子等の記憶装置によって実現される。記憶部13は、制御部14での処理に用いる情報を記憶する。
制御部14は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、制御部14は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されるようにしてもよい。
制御部14は、接続部15と、抽出部16と、送信制御部17とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部14の内部構成は、図1に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部14は、例えばHMD10の電源が投入されると、初期画面やメニュー画面等の画像情報を表示部12に表示させる。
接続部15は、端末装置100との接続を確立する。接続部15は、例えば図示しない操作部が操作されて接続を待ち受ける状態で、通信部11を介して、端末装置100から画面を共有するための接続要求を受信すると、例えば、Wi−Fi Direct(登録商標)により端末装置100との接続を確立する。接続部15は、端末装置100との接続が確立すると、表示部12に表示される画像情報から抽出する抽出範囲を初期値に設定する。抽出範囲の初期値は、例えば、表示部12に設定可能な複数の表示解像度のうち、例えばVGA(640ピクセル×480ピクセル)といった画像サイズとすることができる。すなわち、抽出範囲の初期値は、拡縮比率で表すと、横:0.0〜1.0/縦:0.0〜1.0となる。なお、抽出範囲の初期値は、表示部12の表示解像度に限定されない。接続部15は、初期値に設定した抽出範囲を抽出部16に出力する。
また、接続部15は、通信部11を介して、端末装置100から操作情報を受信すると、受信した操作情報の入力を受け付ける。すなわち、HMD10は、端末装置100からリモート操作を受け付ける。
抽出部16は、接続部15から初期値に設定された抽出範囲が入力されると、表示部12に表示される画像情報が入力された抽出範囲よりも大きい場合には、画像情報を抽出範囲に縮小して抽出した画像情報とする。抽出部16は、例えば、抽出範囲の初期値がVGAであり、表示部12に表示される画像情報がXGA(1024ピクセル×768ピクセル)であるとすると、画像情報をXGAからVGAに縮小することで抽出した画像情報とする。抽出部16は、表示部12に表示される画像情報が入力された抽出範囲以下の大きさである場合には、画像情報を縮小せずに、そのまま抽出した画像情報とする。抽出部16は、抽出した画像情報を送信制御部17に出力する。
また、抽出部16は、通信部11を介して、端末装置100から画像情報の範囲を指定する指定情報を受信したか否かを判定する。抽出部16は、指定情報を受信していない場合には、引き続き、初期値に設定された抽出範囲に応じた抽出した画像情報を送信制御部17に出力する。抽出部16は、指定情報を受信した場合には、受信した指定情報に基づいて抽出範囲を算出する。画像情報の範囲を指定する指定情報は、例えば、矩形の拡縮比率で表すことができる。矩形の拡縮比率は、例えば、拡縮比率[(x下限,y下限),(x上限,y上限)]で表すことができる。また、抽出範囲は、表示部12に表示される画像情報の画像サイズと、拡縮比率とから、下記の式(1)で求めることができる。
抽出範囲 = 画像サイズ(x,y)
× 拡縮比率[(x下限,y下限),(x上限,y上限)] ・・・(1)
例えば、表示部12に表示される画像情報の画像サイズがVGAであり、拡縮比率が横:0.25〜0.75/縦:0.25〜0.75である場合には、抽出範囲は下記の式(2)で示す値となる。
抽出範囲 = 画像サイズ(640,480)
× 拡縮比率[(0.25,0.25),(0.75,0.75)]
=[(160,120),(480,360)] ・・・(2)
抽出部16は、算出した抽出範囲に基づいて、表示部12に表示される画像情報から、抽出範囲に応じた画像情報を抽出する。
抽出部16は、抽出した画像情報が所定の画像サイズを超えているか否かを判定する。ここで、所定の画像サイズは、例えば、QVGA(320ピクセル×240ピクセル)とすることができる。抽出部16は、抽出した画像情報が所定の画像サイズを超えている場合には、抽出した画像情報を所定の画像サイズに縮小して送信制御部17に出力する。抽出部16は、抽出した画像情報が所定の画像サイズを超えていない場合には、抽出した画像情報を縮小せずに、そのまま送信制御部17に出力する。上述の式(2)の例では、抽出範囲は、320ピクセル×240ピクセルとなるので、抽出した画像情報がそのまま送信制御部17に出力される。
言い換えると、抽出部16は、端末装置100により送信された画像情報の範囲を指定する情報を受信すると、ヘッドマウントディスプレイ、つまりHMD10の表示部12に表示される画像情報のうち、受信した情報に応じた範囲の画像情報を抽出する。また、抽出部16は、端末装置100から表示領域における画像の拡縮を示す所定の比率を含む画像情報の範囲を指定する情報を受信すると、画像情報の拡縮前の画像サイズと、所定の比率とに基づく範囲の画像情報を抽出する。なお、実施例における指定情報は、画像情報の範囲を指定する情報の一例である。さらに、抽出部16は、抽出した画像情報が所定の画像サイズを超える場合に、抽出した画像情報を所定の画像サイズに縮小する。
送信制御部17は、抽出部16から抽出した画像情報が入力されると、通信部11を介して、入力された画像情報の端末装置100への送信を開始する。また、送信制御部17は、端末装置100またはHMD10の図示しない操作部から画面共有を終了する情報の受信または入力があったか否かを判定する。すなわち、送信制御部17は、画面共有を終了するか否かを判定する。送信制御部17は、画面共有を終了しない場合には、引き続き、画像情報の送信を継続する。送信制御部17は、画面共有を終了する場合には、送信制御処理を終了し、画像情報の送信を停止する。
続いて、端末装置100の構成について説明する。図1に示すように、端末装置100は、通信部110と、表示操作部111と、記憶部120と、制御部130とを有する。なお、端末装置100は、図1に示す機能部以外にも既知のコンピュータが有する各種の機能部、例えば各種の入力デバイスや音声出力デバイス等の機能部を有することとしてもかまわない。
通信部110は、例えば、無線LAN等の通信モジュール等によって実現される。通信部110は、例えば、Wi−Fi Direct(登録商標)によりHMD10と無線で接続され、HMD10との間で情報の通信を司る通信インタフェースである。通信部110は、HMD10から画像情報を受信する。通信部110は、受信した画像情報を制御部130に出力する。また、通信部110は、制御部130から入力された画面を共有するための接続要求、画像情報の範囲を指定する指定情報および操作情報をHMD10に送信する。
表示操作部111は、各種情報を表示するための表示デバイス、および、ユーザから各種操作を受け付ける入力デバイスである。例えば、表示操作部111は、表示デバイスとして液晶ディスプレイ等によって実現される。また、例えば、表示操作部111は、入力デバイスとして、タッチパネル等によって実現される。つまり、表示操作部111は、表示デバイスと入力デバイスとが一体化される。表示操作部111は、ユーザによって入力された操作を操作情報として制御部130に出力する。なお、表示操作部111は、HMD10と画面共有を行っている場合には、HMD10から受信した画面情報に基づく画面を表示し、HMD10と画面共有を行っていない場合には、HMD10と異なる画面を表示する。
記憶部120は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスクや光ディスク等の記憶装置によって実現される。記憶部120は、制御部130での処理に用いる情報を記憶する。
制御部130は、例えば、CPUやMPU等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASICやFPGA等の集積回路により実現されるようにしてもよい。制御部130は、接続部131と、拡縮部132とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図1に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
接続部131は、HMD10との接続を確立する。接続部131は、例えば、ユーザによって画面を共有するための接続を要求する操作が表示操作部111から入力されると、通信部110を介して、HMD10に画面を共有するための接続要求を送信する。その後、接続部131は、例えば、Wi−Fi Direct(登録商標)によりHMD10との接続を確立する。接続部131は、HMD10との接続を確立すると、通信部110を介して、HMD10から画像情報の受信、および、表示操作部111への表示を開始する。なお、接続部131は、画面の共有中に表示操作部111から表示画面に対する操作情報が入力されると、入力された操作情報を、通信部110を介してHMD10に送信する。
また、接続部131は、表示操作部111から画面共有を終了する情報の入力があったか否かを判定する。すなわち、接続部131は、画面共有を終了するか否かを判定する。接続部131は、画面共有を終了しない場合には、引き続き、画像情報の受信および表示、ならびに、画像の拡縮操作の受け付けを継続する。接続部131は、画面共有を終了する場合には、処理を終了して画像情報の受信および表示、ならびに、画像の拡縮操作の受け付けを停止する。
拡縮部132は、接続部131によってHMD10との接続が確立され、画像情報の受信および表示が開始されると、表示操作部111に対するユーザによる画像の拡縮操作を受け付けたか否かを判定する。拡縮部132は、画像の拡縮操作を受け付けた場合には、拡縮操作に基づく拡縮比率を取得する。なお、画像の拡縮操作は、例えば、ユーザが表示操作部111上で2本の指を離して画像を拡大するピンチアウトや、2本の指を近づけて画像を縮小するピンチインと呼ばれる操作が挙げられる。拡縮部132は、例えば、拡縮操作の前後における画像のピクセル数に基づいて、拡縮比率を算出して取得する。また、拡縮比率は、表示操作部111の表示領域における画像の拡縮を示す所定の比率の一例である。
拡縮部132は、画像情報の範囲を指定する方法の一例として、取得した拡縮比率を指定情報に含める。拡縮部132は、通信部110を介して、拡縮比率を含む指定情報をHMD10に送信する。拡縮部132は、画像の拡縮操作を受け付けていない場合には、引き続き、画像の拡縮操作の受け付けを待機する。
ここで、図2および図3を用いて画像の拡縮に応じた表示について説明する。図2は、画像全体を縮小して送信する場合の一例を示す図である。図2の例では、HMD10は、メニュー画面20の全体の画像情報を縮小して送信している。メニュー画面20には、各種の操作ボタン21a〜21gが配置され、例えば、操作ボタン21bには「カメラ」といった文字が含まれる。端末装置100の表示操作部111に表示されているメニュー画面22は、メニュー画面20の全体の画像情報が縮小されている。このため、メニュー画面22では、操作ボタン21a〜21gの文字、例えば操作ボタン21bの「カメラ」という文字や、操作ボタン21cの「ファイル選択」といった文字が潰れて判読しにくくなっている状態である。
図3は、端末装置で画像が拡大された場合の一例を示す図である。図3の拡大画面23は、図2の状態から操作ボタン21bおよび21cを含む領域がピンチアウトの操作により拡大された画面である。拡大画面23では、文字が潰れて判読しにくいメニュー画面20をそのまま拡大して表示しているので、操作ボタン21bの「カメラ」という文字や、操作ボタン21cの「ファイル選択」という文字は、潰れたままである。端末装置100は、ピンチアウトの操作を受け付けると、拡縮比率を取得して指定情報としてHMD10に送信する。
HMD10は、指定情報を受信すると、指定情報に基づいて抽出範囲24を算出して抽出し、抽出画像25の画像情報を端末装置100に送信する。すなわち、HMD10は、抽出範囲24について、メニュー画面20よりも文字が判読しやすい画像を抽出して送信する。端末装置100は、受信した抽出画像25の画像情報を表示操作部111に表示することで、操作ボタン21bの「カメラ」という文字や、操作ボタン21cの「ファイル選択」という文字が潰れずに判読しやすく表示される。このように、送信制御システム1では、端末装置100で求められる画像の部分だけHMD10から解像度の高い画像を送信するので、HMD10から端末装置100に送信するデータ量の増大を抑制することができる。
次に、実施例の送信制御システム1の動作について説明する。図4は、実施例の送信制御処理の一例を示すシーケンス図である。
HMD10は、電源が投入されてメニュー画面等の画像情報を表示部12に表示させる。また、HMD10の接続部15は、端末装置100からの接続を待ち受ける。端末装置100の接続部131は、例えば、接続を要求する操作が入力されると、HMD10に画面を共有するための接続要求を送信する(ステップS1)。
HMD10の接続部15は、接続要求を受信すると、端末装置100との接続を確立する(ステップS2)。接続部15は、端末装置100との接続が確立すると、表示部12に表示される画像情報から抽出する抽出範囲を初期値に設定する。接続部15は、初期値に設定した抽出範囲を抽出部16に出力する。抽出部16は、接続部15から初期値に設定された抽出範囲が入力されると、抽出範囲、例えば画面全体の画像情報を送信制御部17に出力する。送信制御部17は、抽出部16から入力された画像情報の端末装置100への送信を開始する(ステップS3)。
端末装置100の接続部131は、HMD10との接続を確立すると、HMD10からの画像情報の受信および表示を開始する(ステップS4)。拡縮部132は、接続部131によってHMD10との接続が確立され、画像情報の受信および表示が開始されると、画像の拡縮操作を受け付けたか否かを判定する(ステップS5)。拡縮部132は、画像の拡縮操作を受け付けていない場合には(ステップS5:否定)、ステップS15に進む。
拡縮部132は、画像の拡縮操作を受け付けた場合には(ステップS5:肯定)、拡縮操作に基づく拡縮比率を取得する(ステップS6)。拡縮部132は、取得した拡縮比率を指定情報に含める。拡縮部132は、拡縮比率を含む指定情報をHMD10に送信する(ステップS7)。
HMD10の抽出部16は、端末装置100から指定情報を受信したか否かを判定する(ステップS8)。抽出部16は、端末装置100から指定情報を受信していない場合には(ステップS8:否定)、ステップS14に進む。抽出部16は、端末装置100から指定情報を受信した場合には(ステップS8:肯定)、受信した指定情報に基づいて抽出範囲を算出する(ステップS9)。抽出部16は、算出した抽出範囲に基づいて、表示部12に表示される画像情報から、抽出範囲に応じた画像情報を抽出する(ステップS10)。
抽出部16は、抽出した画像情報が所定の画像サイズを超えているか否かを判定する(ステップS11)。抽出部16は、抽出した画像情報が所定の画像サイズを超えている場合には(ステップS11:肯定)、抽出した画像情報を所定の画像サイズに縮小して(ステップS12)、送信制御部17に出力する。抽出部16は、抽出した画像情報が所定の画像サイズを超えていない場合には(ステップS11:否定)、抽出した画像情報を縮小せずに、そのまま送信制御部17に出力する。
送信制御部17は、抽出部16から入力された画像情報の端末装置100への送信を開始する(ステップS13)。なお、端末装置100では、ステップS4で画像情報の受信および表示が開始されているので、表示する画像情報がステップS13で送信が開始される画像情報に変わることとなる。
送信制御部17は、画面共有を終了するか否かを判定する(ステップS14)。送信制御部17は、画面共有を終了しない場合には(ステップS14:否定)、ステップS8に戻る。送信制御部17は、画面共有を終了する場合には(ステップS14:肯定)、送信制御処理を終了し、画像情報の送信を停止する。
端末装置100の接続部131は、画面共有を終了するか否かを判定する(ステップS15)。接続部131は、画面共有を終了しない場合には(ステップS15:否定)、ステップS5に戻る。接続部131は、画面共有を終了する場合には(ステップS15:肯定)、処理を終了して画像情報の受信および表示、ならびに、画像の拡縮操作の受け付けを停止する。これにより、HMD10は、端末装置100で求められる画像の部分だけ解像度の高い画像を送信するので、端末装置100に送信するデータ量の増大を抑制することができる。すなわち、HMD10は、端末装置100においてユーザが意識することなく解像度を自動調整できる。
このように、HMD10は、HMD10の表示部12に表示される画像情報を端末装置100に送信する。また、HMD10は、端末装置100により送信された画像情報の範囲を指定する情報を受信すると、HMD10の表示部12に表示される画像情報のうち、受信した情報に応じた範囲の画像情報を抽出する。また、HMD10は、抽出した画像情報を端末装置100に送信する。その結果、端末装置100、つまり表示端末に送信するデータ量の増大を抑制することができる。
また、HMD10は、端末装置100から表示領域における画像の拡縮を示す所定の比率を含む画像情報の範囲を指定する情報を受信すると、画像情報の拡縮前の画像サイズと、所定の比率とに基づく範囲の画像情報を抽出する。その結果、画像内の文字の判読性を向上させることができる。
また、HMD10は、抽出した画像情報が所定の画像サイズを超える場合に、抽出した画像情報を所定の画像サイズに縮小する。その結果、端末装置100での拡縮量に応じた画像情報を端末装置100に送信できる。
なお、上記実施例では、HMD10の設定時のメニュー画面等を共有する例を説明したが、これに限定されない。例えば、HMD10でトラブルが発生した場合に、エラーログやコンソール画面を共有してもよい。また、タッチパネル入力ができないHMD10において、タッチパネル入力ができない端末での動作を想定していないアプリケーションを動作させる場合に、HMD10の画面を端末装置100で共有してリモート操作を行ってもよい。
また、図示した各部の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各部の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、抽出部16と送信制御部17とを統合してもよい。また、図示した各処理は、上記の順番に限定されるものではなく、処理内容を矛盾させない範囲において、同時に実施してもよく、順序を入れ替えて実施してもよい。
さらに、各装置で行われる各種処理機能は、CPU(またはMPU、MCU(Micro Controller Unit)等のマイクロ・コンピュータ)上で、その全部または任意の一部を実行するようにしてもよい。また、各種処理機能は、CPU(またはMPU、MCU等のマイクロ・コンピュータ)で解析実行されるプログラム上、またはワイヤードロジックによるハードウェア上で、その全部または任意の一部を実行するようにしてもよいことは言うまでもない。
ところで、上記の実施例で説明した各種の処理は、予め用意されたプログラムをコンピュータで実行することで実現できる。そこで、以下では、上記の実施例と同様の機能を有するプログラムを実行するコンピュータの一例を説明する。図5は、送信制御プログラムを実行するコンピュータの一例を示す図である。
図5に示すように、コンピュータ200は、各種演算処理を実行するCPU201と、データ入力を受け付ける入力装置202と、モニタ203とを有する。また、コンピュータ200は、記憶媒体からプログラム等を読み取る媒体読取装置204と、各種装置と接続するためのインタフェース装置205と、他の情報処理装置等と有線または無線により接続するための通信装置206とを有する。また、コンピュータ200は、各種情報を一時記憶するRAM207と、フラッシュメモリ208とを有する。また、各装置201〜208は、バス209に接続される。
フラッシュメモリ208には、図1に示した接続部15、抽出部16および送信制御部17の各処理部と同様の機能を有する送信制御プログラムが記憶される。また、フラッシュメモリ208には、送信制御プログラムを実現するための各種データが記憶される。入力装置202は、例えば、コンピュータ200のユーザから操作情報等の各種情報の入力を受け付ける。モニタ203は、例えば、図1に示した表示部12と同様の機能を有し、コンピュータ200のユーザに対して表示画面等の各種画面を表示する。インタフェース装置205は、例えばマイクやイヤホン等が接続される。通信装置206は、例えば、図1に示した通信部11と同様の機能を有し端末装置100と接続され、端末装置100と各種情報をやりとりする。
CPU201は、フラッシュメモリ208に記憶された各プログラムを読み出して、RAM207に展開して実行することで、各種の処理を行う。また、これらのプログラムは、コンピュータ200を図1に示した接続部15、抽出部16および送信制御部17として機能させることができる。
なお、上記の送信制御プログラムは、必ずしもフラッシュメモリ208に記憶されている必要はない。例えば、コンピュータ200が読み取り可能な記憶媒体に記憶されたプログラムを、コンピュータ200が読み出して実行するようにしてもよい。コンピュータ200が読み取り可能な記憶媒体は、例えば、CD−ROMやDVDディスク、USB(Universal Serial Bus)メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体メモリ、ハードディスクドライブ等が対応する。また、公衆回線、インターネット、LAN等に接続された装置にこの送信制御プログラムを記憶させておき、コンピュータ200がこれらから送信制御プログラムを読み出して実行するようにしてもよい。
以上、本実施例を含む実施の形態に関し、さらに以下の付記を開示する。
(付記1)ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータに実行させる送信制御プログラムにおいて、
前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出し、
抽出した前記画像情報を前記表示端末に送信する、
処理をコンピュータに実行させることを特徴とする送信制御プログラム。
(付記2)前記抽出する処理は、前記表示端末から表示領域における画像の拡縮を示す所定の比率を含む前記画像情報の範囲を指定する情報を受信すると、前記画像情報の拡縮前の画像サイズと、前記所定の比率とに基づく範囲の画像情報を抽出する、
ことを特徴とする付記1に記載の送信制御プログラム。
(付記3)前記抽出する処理は、抽出した前記画像情報が所定の画像サイズを超える場合に、抽出した前記画像情報を所定の画像サイズに縮小する、
ことを特徴とする付記1または2に記載の送信制御プログラム。
(付記4)ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータが実行する送信制御方法において、
前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出し、
抽出した前記画像情報を前記表示端末に送信する、
処理をコンピュータが実行することを特徴とする送信制御方法。
(付記5)前記抽出する処理は、前記表示端末から表示領域における画像の拡縮を示す所定の比率を含む前記画像情報の範囲を指定する情報を受信すると、前記画像情報の拡縮前の画像サイズと、前記所定の比率とに基づく範囲の画像情報を抽出する、
ことを特徴とする付記4に記載の送信制御方法。
(付記6)前記抽出する処理は、抽出した前記画像情報が所定の画像サイズを超える場合に、抽出した前記画像情報を所定の画像サイズに縮小する、
ことを特徴とする付記4または5に記載の送信制御方法。
(付記7)ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する情報処理装置において、
前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出する抽出部と、
抽出した前記画像情報を前記表示端末に送信する送信制御部と、
を有することを特徴とする情報処理装置。
(付記8)前記抽出部は、前記表示端末から表示領域における画像の拡縮を示す所定の比率を含む前記画像情報の範囲を指定する情報を受信すると、前記画像情報の拡縮前の画像サイズと、前記所定の比率とに基づく範囲の画像情報を抽出する、
ことを特徴とする付記7に記載の情報処理装置。
(付記9)前記抽出部は、抽出した前記画像情報が所定の画像サイズを超える場合に、抽出した前記画像情報を所定の画像サイズに縮小する、
ことを特徴とする付記7または8に記載の情報処理装置。
1 送信制御システム
10 HMD
11 通信部
12 表示部
13 記憶部
14 制御部
15 接続部
16 抽出部
17 送信制御部
100 端末装置
110 通信部
111 表示操作部
120 記憶部
130 制御部
131 接続部
132 拡縮部

Claims (5)

  1. ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータに実行させる送信制御プログラムにおいて、
    前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出し、
    抽出した前記画像情報を前記表示端末に送信する、
    処理をコンピュータに実行させることを特徴とする送信制御プログラム。
  2. 前記抽出する処理は、前記表示端末から表示領域における画像の拡縮を示す所定の比率を含む前記画像情報の範囲を指定する情報を受信すると、前記画像情報の拡縮前の画像サイズと、前記所定の比率とに基づく範囲の画像情報を抽出する、
    ことを特徴とする請求項1に記載の送信制御プログラム。
  3. 前記抽出する処理は、抽出した前記画像情報が所定の画像サイズを超える場合に、抽出した前記画像情報を所定の画像サイズに縮小する、
    ことを特徴とする請求項1または2に記載の送信制御プログラム。
  4. ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する処理をコンピュータが実行する送信制御方法において、
    前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出し、
    抽出した前記画像情報を前記表示端末に送信する、
    処理をコンピュータが実行することを特徴とする送信制御方法。
  5. ヘッドマウントディスプレイに表示される画像情報を表示端末に送信する情報処理装置において、
    前記表示端末により送信された画像情報の範囲を指定する情報を受信すると、前記ヘッドマウントディスプレイに表示される前記画像情報のうち、受信した前記情報に応じた範囲の画像情報を抽出する抽出部と、
    抽出した前記画像情報を前記表示端末に送信する送信制御部と、
    を有することを特徴とする情報処理装置。
JP2016208967A 2016-10-25 2016-10-25 送信制御プログラム、送信制御方法および情報処理装置 Active JP6759974B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016208967A JP6759974B2 (ja) 2016-10-25 2016-10-25 送信制御プログラム、送信制御方法および情報処理装置
US15/726,072 US20180114295A1 (en) 2016-10-25 2017-10-05 Transmission control method and transmission control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016208967A JP6759974B2 (ja) 2016-10-25 2016-10-25 送信制御プログラム、送信制御方法および情報処理装置

Publications (2)

Publication Number Publication Date
JP2018072949A true JP2018072949A (ja) 2018-05-10
JP6759974B2 JP6759974B2 (ja) 2020-09-23

Family

ID=61970347

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016208967A Active JP6759974B2 (ja) 2016-10-25 2016-10-25 送信制御プログラム、送信制御方法および情報処理装置

Country Status (2)

Country Link
US (1) US20180114295A1 (ja)
JP (1) JP6759974B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199074A (ja) * 2001-12-25 2003-07-11 Nec Corp ビデオ映像提示システム、ビデオ映像送出装置、ビデオ映像提示装置、ビデオ映像処理プログラム
JP2012044429A (ja) * 2010-08-18 2012-03-01 Brother Ind Ltd 画像表示システム、及び画像表示システムに含まれる携帯型情報処理装置のためのコンピュータプログラム
JP2016033611A (ja) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 情報提供システム、表示装置、および、表示装置の制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013109281A1 (en) * 2012-01-19 2013-07-25 Hewlett-Packard Development Company, L.P. Right sizing enhanced content to generate optimized source content
KR20140027690A (ko) * 2012-08-27 2014-03-07 삼성전자주식회사 확대 표시 방법 및 장치
US9691181B2 (en) * 2014-02-24 2017-06-27 Sony Interactive Entertainment Inc. Methods and systems for social sharing head mounted display (HMD) content with a second screen
US9516267B2 (en) * 2014-09-10 2016-12-06 Cisco Technology, Inc. Remote magnification and optimization of shared content in online meeting

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199074A (ja) * 2001-12-25 2003-07-11 Nec Corp ビデオ映像提示システム、ビデオ映像送出装置、ビデオ映像提示装置、ビデオ映像処理プログラム
JP2012044429A (ja) * 2010-08-18 2012-03-01 Brother Ind Ltd 画像表示システム、及び画像表示システムに含まれる携帯型情報処理装置のためのコンピュータプログラム
JP2016033611A (ja) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 情報提供システム、表示装置、および、表示装置の制御方法

Also Published As

Publication number Publication date
US20180114295A1 (en) 2018-04-26
JP6759974B2 (ja) 2020-09-23

Similar Documents

Publication Publication Date Title
US9478012B2 (en) Display apparatus, source device and display system
US10209945B2 (en) Information processing apparatus capable of quickly updating a display in accordance with an operation for changing a display appearance and control method thereof
US20150061971A1 (en) Method and system for presenting content
CN111741274B (zh) 一种支持画面局部放大和漫游的超高清视频监看方法
US20110285908A1 (en) O/s application based multiple device access windowing display
JP2015153267A (ja) 情報処理装置および方法、情報処理システム、並びにプログラム
US20150161767A1 (en) Image transmitting apparatus, image presentation system and control method
US9489883B2 (en) Electronic apparatus and method of displaying image thereof
TW201401165A (zh) 顯示角度處理裝置與圖像處理器
US9392063B2 (en) Information processing apparatus that controls transfer of image, control method therefor, and storage medium
EP3203465A1 (en) Image display method, user terminal and video receiving equipment
JP2016031468A (ja) 表示制御装置、表示装置及び表示システム
EP3438943A1 (en) Information processing apparatus, information processing method, and computer program
US20180012410A1 (en) Display control method and device
JP6759974B2 (ja) 送信制御プログラム、送信制御方法および情報処理装置
JP6034709B2 (ja) 端末装置、外部表示装置及び端末装置と外部表示装置とからなる情報システム
KR101484045B1 (ko) 스마트폰용 다중 디스플레이 장치
TW201409350A (zh) 影像外接裝置的處理方法以及影像外接裝置
JP2018005636A (ja) 送信制御プログラム、送信制御方法および情報処理装置
JP6736962B2 (ja) 画像送信制御プログラム、画像送信制御方法および画像送信制御装置
WO2014155508A1 (ja) マルチディスプレイシステム
TWI625669B (zh) 顯示裝置、視訊系統、顯示方法與投影機
JP6105841B2 (ja) 画像表示装置及びその制御方法、プログラム、並びに記憶媒体
TWI789174B (zh) 顯示裝置及其畫面防烙印方法
US11735095B2 (en) Electronic apparatus and controlling method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200817

R150 Certificate of patent or registration of utility model

Ref document number: 6759974

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150