JP2013093705A - 頭部装着型表示装置、プログラム及び画像処理システム - Google Patents

頭部装着型表示装置、プログラム及び画像処理システム Download PDF

Info

Publication number
JP2013093705A
JP2013093705A JP2011233914A JP2011233914A JP2013093705A JP 2013093705 A JP2013093705 A JP 2013093705A JP 2011233914 A JP2011233914 A JP 2011233914A JP 2011233914 A JP2011233914 A JP 2011233914A JP 2013093705 A JP2013093705 A JP 2013093705A
Authority
JP
Japan
Prior art keywords
display
image
area
head
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011233914A
Other languages
English (en)
Other versions
JP5829097B2 (ja
Inventor
Isato Fujigaki
勇人 藤垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011233914A priority Critical patent/JP5829097B2/ja
Publication of JP2013093705A publication Critical patent/JP2013093705A/ja
Application granted granted Critical
Publication of JP5829097B2 publication Critical patent/JP5829097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】 表示バッファの表示レイアウトを変更することができ、頭部姿勢情報に応じた画像を表示することができる頭部装着型表示装置、プログラム及び画像処理システム等の提供。
【解決手段】 頭部装着型表示装置100は、画像データと画像の表示レイアウトデータとを情報端末から受信する通信部110と、表示レイアウトデータにより設定された画像記憶領域に画像データを記憶する表示バッファ120と、表示バッファ120の画像記憶領域に表示領域を設定する処理部130と、設定された表示領域の画像を表示画像として表示する表示部140と、を含む。そして、処理部130は、頭部装着型センサから取得される頭部姿勢情報に基づいて、画像記憶領域に表示領域を設定する。
【選択図】 図1

Description

本発明は、頭部装着型表示装置、プログラム及び画像処理システム等に関係する。
近年、携帯電話やPDA(Personal Digital Assistant)等の携帯電子機器を用いて、タウン情報・マップ情報を提供するサービスが展開されている。具体的には、ナビゲーションサービスや店舗情報の提供サービス等が挙げられる。例えば、店舗情報提供サービスにおいては、ユーザの現在位置をGPS等の手段を用いて取得したり、ユーザに検索対象位置を入力させた上で、携帯電子機器の画面に表示された地図上に、レストラン等の施設の位置を表示したりする。
しかし、地図を読むのが苦手なユーザもおり、地図上に施設位置を表示するだけの情報提供サービスは、場合によってはわかりにくいという問題があった。
さらに、従来の情報提供サービスには、利用時にユーザの視点(視線方向)が頻繁に上下してしまうという問題点がある。例えば、このような情報提供サービスの画面を参照するためには、手で把持している携帯電子機器に目を落とす必要がある。そのため、移動中に利用しようとした場合(例えば表示画面を参照しつつ、表示された施設へ実際に移動するような場合)、ユーザは道路の安全確認等を行いつつ、携帯電子機器に視線を向けなければならない。これは、ユーザにとって非常に煩わしい。
本来、ユーザの利便性を考えると、情報提供サービスの利用中も視線方向が変わらないことが望ましく、歩行中(ここでは歩行者向けサービスを想定している)であれば、進行方向に視線を向けていることが好ましい。ここで、ユーザの視点を変えずに情報を提供する手法として、ユーザの頭部に装着して用いる画像表示装置であるHMD(Head Mounted Display)を用いて、ユーザの視界内に表示画面を重畳する手法がある。特許文献1では、ユーザの頭部の動きに応じて、HMDにおいて表示される画像を制御する手法が開示されている。
特開平10−341387号公報
情報端末がHMDへ画像データを無線で送信し、スクロールなどによる画面遷移をHMDから送信されるセンサのデータに応じて、情報端末が制御するシステムには以下のような課題がある。
第1に、HMDの表示バッファが記憶できるデータ容量には上限があり、かつHMDの表示部は解像度が低いため、HMDは解像度が高い画像の表示に適していない。
第2に、HMDと情報端末間で、センサデータを無線で常に送受信する必要があるため、消費電力が高くなる。
第3に、前述したシステムでは、HMDからセンサデータを受信した情報端末が、表示制御の信号をHMDへ送信する。すなわち、HMDと情報端末間で双方向の通信が必要となる。そのため、頭の動きに合わせて画面をスクロールするような場合にリアルタイム性が損なわれる場合がある。
本発明の幾つかの態様によれば、表示バッファの表示レイアウトを変更することができ、頭部姿勢情報に応じた画像を表示することができる頭部装着型表示装置、プログラム及び画像処理システム等を提供することができる。
また、本発明の幾つかの態様によれば、表示バッファの表示レイアウトを変更することができ、頭部姿勢情報に応じた画像を表示し、システム全体の消費電力を抑制し、要求されるリアルタイム性を満たすことができる頭部装着型表示装置、プログラム及び画像処理システム等を提供することができる。
本発明の一態様は、画像データと画像の表示レイアウトデータとを情報端末から受信する通信部と、前記表示レイアウトデータにより設定された画像記憶領域に前記画像データを記憶する表示バッファと、前記表示バッファの前記画像記憶領域に表示領域を設定する処理部と、設定された前記表示領域の画像を表示画像として表示する表示部と、を含み、前記処理部は、頭部装着型センサから取得される頭部姿勢情報に基づいて、前記画像記憶領域に前記表示領域を設定する頭部装着型表示装置に関係する。
本発明の一態様では、情報端末から受信した表示レイアウトデータが示す表示レイアウトで、画像データを表示バッファに記憶することができ、頭部装着型表示装置の表示部に画像を表示することが可能となる。
また、情報端末から受信する表示レイアウトデータによって、表示バッファの表示レイアウトを変更することが可能となる。
そして、頭部装着型表示装置が、ユーザの頭部姿勢情報に応じて表示バッファの画像記憶領域に表示領域を設定することが可能となる。
さらに、頭部姿勢情報を一度情報端末に送信し、通知された頭部姿勢情報に基づいて、表示部に表示する画像を情報端末が特定する手法に比べて、頭部装着型表示装置と情報端末間での通信機会を減らすことが可能となり、応答速度の向上を図ることが可能となる。
また、本発明の一態様では、前記処理部は、前記頭部姿勢情報により表される頭部姿勢が第1の頭部姿勢である場合には、前記表示領域として第1の表示領域を設定し、前記頭部姿勢が第2の頭部姿勢である場合には、前記表示領域として第2の表示領域を設定し、前記表示部は、前記第1の表示領域が設定された場合には、前記第1の表示領域の画像を前記表示画像として表示し、前記第2の表示領域が設定された場合には、前記第2の表示領域の画像を前記表示画像として表示してもよい。
これにより、頭部姿勢情報に応じて、画像記憶領域上の異なる領域に表示領域を設定すること等が可能になる。すなわち、ユーザの頭部の上下左右の動きに応じて、画像記憶領域上で表示領域をスクロールさせること等が可能となる。
また、本発明の一態様では、前記処理部は、取得された前記頭部姿勢情報に基づいて姿勢変化量を求め、前記姿勢変化量が所定の閾値以上であると判断する場合に、前記表示領域を前記第1の表示領域から前記第2の表示領域に移動させてもよい。
これにより、姿勢変化量と所定の閾値を比較することによって、表示領域を移動させるか否かを判定すること等が可能となる。
また、本発明の一態様では、前記処理部は、前記画像記憶領域に前記第2の表示領域を設定できないと判断した場合に、前記情報端末に対して画像データの送信要求を行ってもよい。
これにより、表示バッファの画像記憶領域における表示領域の位置によって、表示バッファに記憶された画像データを更新することを判定すること等が可能となり、表示バッファの更新処理を行うこと等が可能となる。
また、本発明の一態様では、前記通信部は、前記送信要求に対応して前記情報端末が送信した前記画像データを前記情報端末から受信し、前記処理部は、受信した前記画像データに基づいて、前記表示バッファに記憶される前記画像データの更新処理を行ってもよい。
これにより、一度に表示バッファに記憶できない高解像度の画像の一部を、表示バッファに記憶すること等が可能となる。さらに、画像データの更新処理を繰り返すことによって、表示領域を複数回スクロールさせること等も可能になる。
また、本発明の一態様では、前記表示バッファは、受信された前記表示レイアウトデータに基づいて、正方形又は長方形の前記画像記憶領域を設定し、設定した前記画像記憶領域に前記画像データを記憶してもよい。
これにより、頭部装着型表示装置の表示部に表示させる画像の内容に応じて、情報端末が表示レイアウトを変更することが可能となる。
また、本発明の一態様では、前記通信部は、前記表示領域の遷移モードを指定する表示領域遷移情報を、前記情報端末から受信し、前記処理部は、受信された前記表示領域遷移情報に基づいて、使用する前記遷移モードを特定し、特定された前記遷移モードで前記表示領域を遷移させてもよい。
これにより、表示領域遷移情報により指定される遷移モードで、表示領域を遷移させること等が可能になる。
また、本発明の一態様では、前記表示バッファは、第1の画像データを第1の領域に記憶し、前記第1の画像データとは画像の縮尺率が異なる第2の画像データを、前記第1の領域の第1の方向側にある第2の領域に記憶し、前記処理部は、前記第1の領域から前記第1の方向側に前記表示領域を移動させて、前記第2の領域を前記表示領域に設定してもよい。
これにより、ユーザが頭部姿勢を変化させることによって、表示部に縮尺率の異なる画像を表示すること等が可能になる。
また、本発明の一態様では、前記表示バッファは、前記第1の画像データと画像の縮尺率が等しい第3の画像データを、前記第1の領域の第2の方向側にある第3の領域に更に記憶し、前記処理部は、前記第1の領域から前記第2の方向側に前記表示領域を移動させて、前記第3の領域を前記表示領域に設定してもよい。
これにより、ユーザが頭部姿勢を変化させることによって、表示部に縮尺率が等しい他の画像を表示すること等が可能になる。
また、本発明の一態様では、前記処理部は、ユーザ入力情報により前記表示領域の設定処理の停止が指示された場合には、前記頭部姿勢情報により表される頭部姿勢の変化が前記表示領域を移動させる変化であった場合でも、前記表示領域の移動を停止してもよい。
これにより、現在の頭部姿勢に関わらず、特定の表示画像を継続して表示させたいとユーザが考えている場合に、操作部を介して、表示領域の設定処理の停止を処理部にユーザが指示すれば、ユーザの頭部姿勢が変わった場合でも、表示画像が切り替わらないようにすること等が可能となる。
また、本発明の一態様では、前記通信部は、前記表示バッファにより前記画像データが記憶された後に、前記情報端末との通信の停止処理を行ってもよい。
これにより、いったん頭部装着型表示装置で表示制御が開始すれば、情報端末と頭部装着型表示装置の接続を切断すること等が可能となり、ユーザは頭部の動きで表示を制御することができるため、画像処理システム全体の消費電力を抑制すること等が可能になる。
また、本発明の一態様では、前記処理部は、基準頭部姿勢の更新指示情報がユーザにより入力された場合には、前記更新指示情報が入力された際における前記頭部姿勢を前記基準頭部姿勢として設定してもよい。
これにより、例えば、ユーザが直立しておらず、頭部が地面に対して水平・垂直でない状態で表示領域の設定処理が開始された場合にも、更新指示情報が入力された際における頭部姿勢を基準頭部姿勢として設定して、頭の動きでスクロール不可能な領域を無くすこと等が可能になる。
また、本発明の他の態様では、上記各部としてコンピュータを機能させるプログラムに関係する。
また、本発明の他の態様では、情報端末と、頭部装着型表示装置と、を含み、前記情報端末は、画像データと画像の表示レイアウトデータとを前記頭部装着型表示装置に送信し、前記頭部装着型表示装置は、前記画像データと前記画像の前記表示レイアウトデータとを前記情報端末から受信し、前記表示レイアウトデータにより設定された画像記憶領域に前記画像データを記憶し、頭部装着型センサから取得される頭部姿勢情報に基づいて、前記表示バッファの前記画像記憶領域に表示領域を設定し、設定された前記表示領域の画像を表示画像として表示する画像処理システムに関係する。
図1(A)、図1(B)は、本実施形態のシステム構成図。 第1の実施形態の処理の流れを説明するシーケンス図。 図3(A)〜図3(C)は、画面表示例。 図4(A)〜図4(C)は、表示レイアウト例。 図5(A)〜図5(C)は、表示レイアウト例。 姿勢変化量に基づき表示領域を移動させる一例を説明するフローチャート。 図7(A)〜図7(D)は、画像データの更新の説明図。 頭部姿勢方向に基づき縮尺率の異なる画像を表示する例。 第2の実施形態の処理の流れを説明するシーケンス図。 図10(A)〜図10(C)は、遷移モードの説明図。
以下、本実施形態について説明する。まず、本実施形態の概要を説明し、次に本実施形態のシステム構成例について説明する。そして、本実施形態の処理の詳細についてシーケンス図と具体例を用いて詳細に説明し、最後に、本実施形態の手法について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また、本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
1.概要
近年、携帯電話やPDA(Personal Digital Assistant)等の携帯電子機器を用いて、タウン情報・マップ情報を提供するサービスが展開されている。具体的には、ナビゲーションサービスや店舗情報の提供サービス等が挙げられる。例えば、店舗情報提供サービスにおいては、ユーザの現在位置をGPS等の手段を用いて取得したり、ユーザに検索対象位置を入力させた上で、携帯電子機器の画面に表示された地図上に、レストラン等の施設の位置を表示したりする。
しかし、地図を読むのが苦手なユーザもおり、地図上に施設位置を表示するだけの情報提供サービスは、場合によってはわかりにくいという問題があった。
さらに、従来の情報提供サービスには、利用時にユーザの視点(視線方向)が頻繁に上下してしまうという問題点がある。例えば、このような情報提供サービスの画面を参照するためには、手で把持している携帯電子機器に目を落とす必要がある。そのため、移動中に利用しようとした場合(例えば表示画面を参照しつつ、表示された施設へ実際に移動するような場合)、ユーザは道路の安全確認等を行いつつ、携帯電子機器に視線を向けなければならない。これは、ユーザにとって非常に煩わしい。
本来、ユーザの利便性を考えると、情報提供サービスの利用中も視線方向が変わらないことが望ましく、歩行中(ここでは歩行者向けサービスを想定している)であれば、進行方向に視線を向けていることが好ましい。ここで、ユーザの視点を変えずに情報を提供する手法として、ユーザの頭部に装着して用いる画像表示装置であるHMD(Head Mounted Display)を用いて、ユーザの視界内に表示画面を重畳する手法がある。
その一手法として、情報端末がHMDへ画像データを無線で送信し、スクロールなどによる画面遷移をHMDから送信されるセンサのデータに応じて、情報端末が制御する手法があるが、この手法を実現するシステムには以下のような課題がある。
第1に、HMDの表示バッファが記憶できるデータ容量には上限があり、かつHMDの表示部は解像度が低いため、HMDは解像度が高い画像の表示に適していない。
第2に、HMDと情報端末間で、センサデータを無線で常に送受信する必要があるため、消費電力が高くなる。
第3に、前述したシステムでは、HMDからセンサデータを受信した情報端末が、表示制御の信号をHMDへ送信する。すなわち、HMDと情報端末間で双方向の通信が必要となる。そのため、頭の動きに合わせて画面をスクロールするような場合にリアルタイム性が損なわれる場合がある。
そこで、本実施形態の頭部装着型表示装置(HMD)等は、表示バッファの表示レイアウトを変更することができ、情報端末ではなく、頭部装着型表示装置が頭部姿勢情報に応じた画像を特定し、頭部装着型表示装置の表示部に特定した画像を表示する。
2.システム構成例
まず図1(A)に、ユーザ10が本実施形態の頭部装着型表示装置(HMD)を利用している様子を示す。図1(A)においてユーザ10は、HMD100を頭部に装着しており、情報端末200を所持している。さらにウェアラブルセンサとして種々のセンサを身につけている。具体的には、加速度センサ551や方位センサ560がHMD100に設けられ、GPSセンサ550が情報端末200に設けられる。
GPSセンサ550は、ユーザの位置(場所)を検知するセンサである。なおGPSセンサ550の代わりに携帯電話の位置情報サービスや周辺にある無線LANの位置情報を利用してもよい。
方位センサ560は、例えば地磁気センサ等であり、センサの向いている方位を角度(0°〜360°)で計測する。地磁気センサは、例えば磁場の強さによって抵抗値やインピーダンス値が増減する素子等で構成され、三軸の地磁気情報を検知する。
加速度センサ551は、例えば外力によって抵抗値が増減する素子等で構成され、三軸の加速度情報を検知する。
また、地磁気センサや加速度センサ、ジャイロセンサの機能を併せ持つセンサを用いてもよい。さらに、地磁気情報や加速度情報から、磁北を基準とした偏角を算出し、出力するセンサを用いてもよい。
次に、図1(B)に本実施形態の頭部装着型表示装置(HMD)及びHMDと情報端末を含む画像処理システムの構成例を示す。
頭部装着型表示装置100は、通信部110と、表示バッファ120と、処理部130と、表示部140と、情報取得部150と、操作部160と、を含む。
また、情報端末200は、通信部210と、記憶部220と、処理部230と、を含む。情報端末200は、例えば、PDA、ノート型PCなどの携帯情報端末(モバイルコンピュータ)である。なお、情報端末200は、携帯電話、腕時計、或いはポータブルオーディオなどとして兼用される機器であってもよい。
本実施形態のHMD及び画像生成システムは、図1(B)の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。なお、本実施形態の画像生成システムの一部の機能は、情報端末200により実現されるが、例えば情報端末200とは異なる電子機器により実現してもよい。例えば、本実施形態の画像生成システムの一部の機能は、情報端末200もしくはHMD100と通信により接続されたサーバにより実現されてもよい。
次に各部の接続について説明する。HMDの通信部110と情報端末の通信部210は、例えば、WifiやBluetooth(登録商標)などの通信規格で互いに情報を送受信する。なお、通信部110及び通信部210は、有線により通信を行うものであってもよく、無線により通信を行うものであってもよい。
そして、HMDの通信部110は、処理部130に接続されている。処理部130は、表示バッファ120と、情報取得部150と、操作部160と、に接続されている。表示バッファ120は、表示部140に接続されている。情報取得部150は、処理部130に接続されている。
さらに、情報端末の通信部210は、処理部230に接続されている。処理部230は、通信部210と、記憶部220と、に接続されている。記憶部220は、処理部230に接続されている。
次に各部で行われる処理について説明する。
表示バッファ120は、表示部140に表示できる画像の解像度の2倍以上の解像度を持つ画像を記憶できる画像記憶領域を持つ。また、表示バッファ120の画像記憶領域は、処理部130により通知される表示レイアウトに従って、画像データを記憶する。表示バッファ120の画像記憶領域は、RAM等のメモリやHDD(ハードディスクドライブ)などにより実現できる。
処理部130は、HMDの各部を制御する。具体的には、処理部130は、後述する表示領域の設定処理を行ったり、ユーザ入力情報に応じて情報取得部にセンサ情報の取得の開始・停止を指示したりする。さらに、処理部130は、表示バッファに記憶される画像データの再構成処理などを行う。
表示部140は、表示バッファ120の画像記憶領域に記憶された画像を表示する。表示部140は、例えば、ユーザの頭部の近傍に装着されると共に、大きさが瞳孔の大きさよりも小さくなるように設定され、いわゆるシースルービューアの表示部として機能する。
情報取得部150は、センサ情報を取得して処理部130に通知する。情報取得部150は、センサ自体であってもよいし、センサからセンサ情報を取得する機能部であってもよい。
操作部160は、ユーザからの入力情報を取得し、処理部130に通知する。操作部160は、例えばHMD100に設けられるボタンやスイッチ等である。なお、操作部160は情報端末200に設けられてもよい。
記憶部220は、HMDの表示部140に表示する画像や、データベースを記憶したり、処理部230等のワーク領域となるもので、その機能はRAM等のメモリやHDDなどにより実現できる。
処理部230は、情報端末の各部を制御する。なお、処理部130及び処理部230の機能は、各種プロセッサ(CPU等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムなどにより実現できる。
3.処理の詳細
3.1 第1の実施形態
以下では、図2のシーケンス図を用いて、第1の実施形態の処理の詳細について説明する。
まず、情報端末の処理部は、記憶部から画像データを読み込んで(S30)、表示レイアウトデータを指定して、画像データとともにHMDへ送信する(S31)。そして、HMDの処理部は、画像記憶領域に表示領域を設定し、表示部が画像を表示する。
表示レイアウトデータとは、後述するように表示レイアウトを指し示すデータのことである。
例えば、表示レイアウトデータにより3行×3列の長方形の表示レイアウトを指定した場合の例を、図3(A)〜図3(C)を用いて説明する。図3(A)にはHMDを装着したユーザUSが首を振っている様子を、図3(B)には表示部に表示する画像IIMの一例を、図3(C)には表示バッファの画像記憶領域IBと記憶される画像を示す。
前述したように表示バッファの画像記憶領域IBは、表示部が表示可能な画像の2倍以上の領域(本例では9画面分)を持っており、受信した表示レイアウトデータにより設定された画像記憶領域IBに、情報端末から受信した画像データを記憶する(図3(C))。そして、表示部には記憶した画像の一部(図3(B)のIIM)が表示される。
また、他にも図4(A)〜図4(C)と図5(A)〜図5(C)に示すような表示レイアウトを指定することも可能である。図4(A)〜図4(C)は、1行×9列の横長の長方形の表示レイアウトを指定した場合、図5(A)〜図5(C)は、9行×1列の縦長の長方形の表示レイアウトを指定した場合を示している。なお、ここでは表示レイアウトの例として3つの例を示したが、表示レイアウト上での画像の配置や、表示バッファの大きさは任意であり、これらの例に限定されるものではない。
次に、情報端末の処理部からの指示(S32)によって表示制御を開始すると(S33)、HMDの情報取得部からHMDの処理部へ方位および仰角などの頭部姿勢情報が送信される(S34)。
そして、HMDの処理部は取得した頭部姿勢情報に基づいて、画面遷移判定処理を行う(S35)。画面遷移判定処理の結果、表示する画像をスクロールすると判定された場合には、表示部は画像をスクロールして表示する(S36)。
例えば図3(C)の中央の画像が図3(B)のように表示画像IIMとされている時に、図3(A)のDR1方向にユーザUSが首を動かした場合について説明する。
まず、この場合には、画像記憶領域IBの中央の領域が表示領域として設定されており、表示領域の画像が表示部に表示される。この状態で、DR1方向にユーザUSが首を動かした場合には、後述する画面遷移条件を満たした時に、画像記憶領域IBにおいて表示領域をDR1方向に移動させる。その結果、画像記憶領域IBの中央の画像が表示部に表示されていた状態から、DR1方向にスクロールして画像を表示することが可能となる。ユーザUSが首をDR2方向やDR3方向、DR4方向に動かした場合や、図4(A)〜図4(C)と図5(A)〜図5(C)の場合も同様である。
ここで、画面遷移判定処理の詳細について、図6に示すフローチャートを用いて説明する。
本実施形態において、HMDの情報取得部が取得するセンサ情報には、0°〜360°の値を示す方位dと、0°から255°の値を示す仰角aが含まれる。なお、方位dは、0°及び360°が北の周期境界条件であり、仰角aは、a=0°の時に真下を示し、a=127°の時に水平を示し、a=255°の時に真上を示す。さらに、初期方位をdi、初期仰角をai、初期方位diと現在の方位dの差分と比較する閾値をΔd、初期仰角aiと現在の仰角aの差分と比較する閾値をΔaとする。
まず、HMDの処理部は、今回の画面遷移判定処理が初回の処理又は後述する初期化割り込み時の処理であるか否かを判定する(S1)。
画面遷移判定処理が初回の処理又は後述する初期化割り込み時の処理であると判定した場合には、現在の方位dに初期方位diを、現在の仰角aに初期仰角aiを代入する(S2)。
一方、画面遷移判定処理が初回の処理又は後述する初期化割り込み時の処理ではないと判定した場合には、表示レイアウトが正方形であるか否かを判定する(S3)。なお、正方形の表示レイアウトとは、図3(C)のように行と列の数が同じ表示レイアウトのことを指す。
表示レイアウトが正方形であると判定した場合において、(ai−a)>Δaであると判定した場合には(S4)、上方向へスクロールし(S5)、(ai−a)>Δaではなく、(ai−a)<−Δaであると判定した場合には(S6)、下方向へスクロールする(S7)。
さらに、(ai−a)<−Δaでもないと判定した場合に、(di−d)>Δdであると判断する場合には(S8)、右方向へスクロールし(S9)、(di−d)<−Δdであると判断する場合には(S10)、左方向へスクロールする(S11)。(di−d)<−Δdでもないと判定した場合には、画面遷移判定処理を終了する。
一方、表示レイアウトが正方形ではないと判定した場合には、表示レイアウトが垂直か否かを判定する(S12)。なお、垂直な表示レイアウトとは、図5(C)のように複数の行と1列の表示レイアウトのことを指す。
表示レイアウトが垂直であると判定した場合において、(ai−a)>Δaであると判定した場合には(S13)、上方向へスクロールし(S14)、(ai−a)>Δaではなく、(ai−a)<−Δaであると判定した場合には(S15)、下方向へスクロールする(S16)。(ai−a)<−Δaでもないと判定した場合には、画面遷移判定処理を終了する。
そして、表示レイアウトが垂直ではないと判定した場合には、表示レイアウトは水平であると判定する。なお、水平な表示レイアウトとは、図4(C)のように1行と複数の列の表示レイアウトのことを指す。
表示レイアウトが水平であると判定した場合において、(di−d)>Δdであると判定した場合には(S17)、右方向へスクロールし(S18)、(di−d)>Δdではなく、(di−d)>−Δdであると判定した場合には(S19)、左方向へスクロールする(S20)。(di−d)>−Δdでもないと判定した場合には、画面遷移判定処理を終了する。
これにより、頭部の上下左右の動きに応じて、画像記憶領域上で表示領域をスクロールさせることが可能となる。
次に、HMDの処理部は、表示バッファの更新処理(再構成処理)を実施するか否かを判定し(S37)、実施すると判定した場合には、情報端末に対して再構成用画像を要求する(S38)。そして、再構成用画像要求を受信した情報端末の処理部は、記憶部から画像を読み込み(S39)、読み込んだ再構成用画像をHMDの処理部に送信する(S40)。そして、表示バッファの画像データの更新処理を行い、更新後の表示バッファに表示領域を設定して、表示部に画像を表示する(S41)。
この具体例を図7(A)〜図7(D)を用いて説明する。前提として本実施形態では、情報端末の記憶部は、例えば図7(A)に示すような画像データを保持しており、HMDの表示部と同じ解像度で区切られた領域に図7(A)に示すようなIDが付与されている。情報端末の処理部は、IDを指定すると、その画像データにアクセスできる。なお、情報端末の記憶部の容量による制限をなくすために、記憶部から読み出すのではなく画像をインターネット上から取得してもよい。また、画像の取得方法に関わらず、情報端末の処理部が画像を取得して、情報端末からHMDへ画像を送信するまでの時間は、HMDの表示バッファの更新処理を行う最短時間よりも短い必要がある。
また、図7(B)〜図7(D)には、9つの領域を有するHMDの表示バッファを示しており、それぞれの領域内の番号は情報端末の記憶部から読み込まれた画像のIDを示す。図7(B)〜図7(D)のIARは、HMDの表示部に実際に表示されている領域を示し、初期状態はID=97の画像を表示し、その時の表示領域の中心座標を原点(0、0)とする。なお、本例では、初期状態としてID=97を使用したが、これに限定されない。また、HMDの表示部の大きさ(横、縦)を(xl、yl)と表し、移動後の表示領域の中心座標を(xc、yc)と表すものとする。
この場合に、図7(C)のように表示領域が上方向へスクロールして移動して、その結果、表示領域の中心座標が閾値を超えた場合に、表示バッファの下段にある88、98、A8の画像を破棄する。なお、ここでは、yl/2を閾値、Δを正の整数とし、yc=yl/2+Δになった場合を示している。
そして、破棄した画像の代わりに情報端末から図7(A)の85、95、A5の画像を読み込んで、図7(D)のような配置で表示バッファを更新(再構成)し、その後HMDの表示領域の中心座標を(0、yc)から(0、−(yl/2+Δ))へ移動させる。
上の例は、上方向へスクロールした場合だが、下方向へスクロールする場合には−yl/2を、左方向へスクロールする場合には−xl/2を、右方向へスクロールする場合にはxl/2を閾値として用いて、上方向と同様に表示バッファの更新処理を行うことができる。これにより、スクロール先の画像が途切れることなく、HMDの表示部に画像を表示し続けることが可能となる。なお、本実施形態では、閾値として表示部の解像度の1/2の値を使用したが、これに限定されない。
また、情報端末の記憶部に記憶されている画像(図7(A)の画像)の端部分の画像が、HMDの表示バッファに記憶されている場合において、例えば画像が地図であるような場合にはスクロールを停止してもよいし、画像の内容によっては周期境界条件を設けてもよい。
ここで、例えば、表示部に表示された施設詳細情報を表す画像と手元の資料とを、ユーザが見比べたい場合など、ユーザが頭部を動かしつつも、特定の表示画像の表示を継続させたい場合がある。しかし、前述した手法を用いた場合には、ユーザの頭部姿勢に連動して、表示画像が切り替わってしまう。
そこで、本実施形態では、操作部による割り込みによって、表示処理ループ(S33〜S41)及び情報取得部を一時停止および再開することができる(S42)。例えば、図3(A)〜図3(C)の状態で、表示処理ループを一時停止した場合には、図3(C)の画像記憶領域IBの中央の画像がHMDの表示部に表示されており、例えユーザがDR4方向を向いたとしても表示部に表示される画像は変わらない(DR1〜DR3方向の場合も同様)。
ここで、前述した画面遷移判定処理では、開始時の方位および仰角を保存し、次回以降の方位および仰角との差分が閾値を超えるか否かを判定することにより、スクロールをするか否かを判定しているため、ユーザが直立しておらず、頭部が地面に対して水平・垂直でない状態で表示処理ループが開始された場合には、頭の動きではスクロール不可能な領域ができてしまうという問題がある。
そこで、本実施形態では、HMDの操作部から表示処理ループに対して割り込みを行い、その割り込み発生時点での方位と仰角を初期値として利用する(S43)。
最後に、HMDの処理部は、情報端末の処理部から表示制御終了の要求(S44)が送出されるまで、表示処理ループを継続し、HMDの処理部が表示制御終了の要求を受信した場合には表示処理ループを終了する(S45)。
また、本実施形態の頭部装着型表示装置において、地図などの画像を表示する場合には、広域図や周辺地域の詳細図など、縮尺率の異なる地図を参照したい場合がある。
そこで、本実施形態の頭部装着型表示装置は、図8に示すように、表示バッファの画像記憶領域IBにおいて、中央の段(上から2段目)L2に基準となる縮尺率を持つ地図画像を記憶し、中央の段L2の上段(上から1段目)L1に拡大地図画像を記憶し、中央の段L2の下段(上から3段目)L3に、縮小地図画像を記憶する。なお、本例における拡大地図画像は、中央の段L2の画像の地図よりも表示範囲が狭い地図を表す他の画像であり、縮小地図画像は、中央の段L2の画像の地図よりも表示範囲が広い地図を表す他の画像であり、中央の段L2の画像をそのまま拡大又は縮小した画像ではない。ただし、これに限定されない。
これにより、例えば画像記憶領域IBの中央の領域AR5に表示領域IARが設定されている状態で、ユーザが頭部を上方向(第1の方向DR1)に向けると、表示領域IARを領域AR2に移動させて、現在参照している地図の拡大図を表示することができる。一方、ユーザが頭部を下方向(第2の方向DR2)に向けると、表示領域IARを領域AR8に移動させて、現在参照している地図の縮小図を表示することができる。また、ユーザが右方向(第3の方向DR3)を向けば、表示領域IARを領域AR6に移動させ、ユーザが左方向(第3の方向DR3)を向けば、表示領域IARを領域AR4に移動させて、縮尺率をそのままに表示する地域をスクロールすることができる。
3.2 第2の実施形態
以下では、図9のシーケンス図を用いて、第2の実施形態の処理の詳細について説明する。
初めに、情報端末の処理部は、記憶部から画像データを読み込んで(S50)、表示領域遷移情報を指定して、画像データとともにHMDへ送信する(S51)。そして、処理部は、受信した表示領域遷移情報に基づいて、使用する遷移モードを特定する(S52)。その後、送信された画像を表示バッファへ送信し、表示部が画像を表示する。
ここで、遷移モードとは、処理部が行う一連の処理内容を決定付けるモードのことを言い、遷移モード毎に表示領域の移動方式(又は遷移方式)が異なる。また、表示領域遷移情報とは、使用する遷移モードを指定する情報のことをいう。
具体的に遷移モードには、図10(A)に示したスクロール(スライド)移動モードや、図10(B)に示した瞬間移動モード、図10(C)に示したページめくりモードなどがある。なお、遷移モードはこれらに限定されない。
まず、スクロール移動モードでは、表示領域を移動させると判断された場合には、表示バッファの画像記憶領域IBに沿って表示領域IARを図10(A)の矢印のようにスライドさせる。
次に、瞬間移動モードでは、表示領域を移動させると判断された場合には、画像記憶領域IB内の領域IAR1から領域IAR2に、図10(B)の矢印のように表示領域を一瞬で遷移させる。
そして、図10(C)には、図10(A)、図10(B)とは異なり、ページめくりモードが遷移モードとして設定されている場合において、表示部に表示される画像を示している。ページめくりモードでは、表示画像IIMが、画像記憶領域内の表示領域IAR1の画像である状態から、図10(C)に示すように、画像の右下部分から次第に表示領域IAR2の画像に変化していき、あたかも本のページをめくっているかのような画像IIMが表示部に表示される。
その後、情報端末の処理部からの指示(S53)によって表示制御を開始すると(S54)、HMDの情報取得部からHMDの処理部へ方位および仰角などの頭部姿勢情報が送信される(S55)。
そして、HMDの処理部は取得した頭部姿勢情報に基づいて、画面遷移判定処理を行う(S56)。なお、画面遷移判定処理は、第1の実施形態で説明した手法と同様でもよい。そして、画面遷移を行うと判定された場合には、ステップS52において特定した遷移モードで表示領域の遷移を行う(S57)。
最後に、HMDの処理部は、情報端末の処理部から表示制御終了の要求(S58)が送出されるまで、表示処理ループを継続し、HMDの処理部が表示制御終了の要求を受信した場合には表示処理ループを終了する(S59)。
4.本実施形態の手法
以上の本実施形態では、画像データと画像の表示レイアウトデータとを情報端末200から受信する通信部110と、表示レイアウトデータにより設定された画像記憶領域に画像データを記憶する表示バッファ120と、表示バッファ120の画像記憶領域に表示領域を設定する処理部130と、設定された表示領域の画像を表示画像として表示する表示部140と、を含む。そして、処理部130は、頭部装着型センサから取得される頭部姿勢情報に基づいて、画像記憶領域に表示領域を設定する。
ここで、表示レイアウトデータとは、表示レイアウトを指し示すデータのことをいう。また、表示レイアウトとは、表示バッファの画像記憶領域に記憶される画像が表示部に表示される際の、各画像の位置関係を示す情報のことをいう。また、表示レイアウトは、画像記憶領域において、HMDの表示部と同じ解像度で区切られた各領域の順序情報であってもよい。例えば、表示レイアウトは、図3(C)に示す3行×3列の正方形(ただし、画像のサイズによっては長方形となる)や、図4(C)に示す1行×9列の横長の長方形、図5(C)に示す9行×1列の縦長の長方形などがある。ただし、これらに限定されない。
また、表示領域とは、画像記憶領域において、表示部に表示する画像を記憶する領域として特定される領域のことをいう。表示領域は、画像記憶領域のアドレスにより特定される。
さらに、頭部姿勢情報とは、ユーザの頭部姿勢を表す情報である。例えば、頭部姿勢情報は、ユーザの頭部に設けられたセンサにより取得される仰角や方位などの値のことである。
これにより、情報端末200から受信した表示レイアウトデータが示す表示レイアウトで、画像データを表示バッファ120に記憶することができ、頭部装着型表示装置100の表示部140に画像を表示することが可能となる。
また、情報端末200から受信する表示レイアウトデータによって、表示バッファ120の表示レイアウトを変更することが可能となる。
そして、頭部装着型表示装置100が、ユーザの頭部姿勢情報に応じて表示バッファ120の画像記憶領域に表示領域を設定することが可能となる。
さらに、頭部姿勢情報を一度情報端末200に送信し、通知された頭部姿勢情報に基づいて、表示部140に表示する画像を情報端末200が特定する手法に比べて、頭部装着型表示装置100と情報端末200間での通信機会を減らすことが可能となり、応答速度の向上を図ることが可能となる。すなわち、情報端末200と通信をせずに、頭部装着型表示装置100内部で表示制御を行うため、スクロールのリアルタイム性が向上する。
また、処理部130は、頭部姿勢情報により表される頭部姿勢が第1の頭部姿勢である場合には、表示領域として第1の表示領域を設定し、頭部姿勢が第2の頭部姿勢である場合には、表示領域として第2の表示領域を設定してもよい。そして、表示部140は、第1の表示領域が設定された場合には、第1の表示領域の画像を表示画像として表示し、第2の表示領域が設定された場合には、第2の表示領域の画像を表示画像として表示してもよい。
ここで、第1の表示領域と第2の表示領域は、画像記憶領域内の領域のうち、互いに異なる領域のことをいう。本例では、第1の表示領域と第2の表示領域は、表示レイアウト上で隣接していることが望ましいが、これに限定されない。例えば、図10(B)では、画像記憶領域IBのうち、領域IAR1が第1の表示領域であり、領域IAR2が第2の表示領域である。
また、第1の頭部姿勢は、第2の頭部姿勢と異なる頭部姿勢のこという。例えば、図3(A)では、ユーザUSが正面を向いている状態が第1の頭部姿勢であり、ユーザUSがDR1方向を向いている状態が第2の頭部姿勢である。
これにより、頭部姿勢情報に応じて、画像記憶領域上の異なる領域に表示領域を設定すること等が可能になる。すなわち、ユーザの頭部の上下左右の動きに応じて、画像記憶領域上で表示領域をスクロールさせること等が可能となる。
また、処理部130は、取得された頭部姿勢情報に基づいて姿勢変化量を求め、姿勢変化量が所定の閾値以上であると判断する場合に、表示領域を第1の表示領域から第2の表示領域に移動させてもよい。
ここで、姿勢変化量とは、基準頭部姿勢と現在の頭部姿勢との差である。基準頭部姿勢は、初期姿勢のことであってもよい。例えば、図6の初期方位d及び初期仰角aのこという。
これにより、姿勢変化量と所定の閾値を比較することによって、表示領域を移動させるか否かを判定すること等が可能となる。
ところで、頭部装着型表示装置100の表示部140は、画像が高い解像度を有する場合には画角が小さい場合しか、その画像を表示することができない。
そこで、処理部130は、画像記憶領域に第2の表示領域を設定できないと判断した場合に、情報端末200に対して画像データの送信要求を行ってもよい。すなわち、処理部130は、画像記憶領域に記憶されている画像データの中に、第2の頭部姿勢に対応する画像データがないと判断する場合に、情報端末200に対して画像データの送信要求を行ってもよい。
これにより、表示バッファ120の画像記憶領域における表示領域の位置によって、表示バッファ120に記憶された画像データを更新することを判定すること等が可能となり、後述する表示バッファの更新処理を行うこと等が可能となる。
また、通信部110は、送信要求に対応して前記情報端末が送信した画像データを情報端末200から受信してもよい。そして、処理部130は、受信した画像データに基づいて、表示バッファ120に記憶される画像データの更新処理を行ってもよい。
ここで、画像データの更新処理とは、表示バッファ120の画像記憶領域に記憶されている画像データの一部又は全部のデータを破棄し、情報端末200から新たに受信した画像データを画像記憶領域に記憶させる処理のこと等をいう。例えば、図7(B)〜図7(D)を用いて説明した処理が該当する。
これにより、一度に表示バッファに記憶できない高解像度の画像の一部を、表示バッファ120に記憶すること等が可能となる。さらに、画像データの更新処理を繰り返すことによって、表示領域を複数回スクロールさせること等も可能になる。その結果、頭部装着型表示装置100の表示部140でも、画角が大きく、高解像度である画像(一部)を表示すること等が可能になる。
また、表示バッファ120は、受信された表示レイアウトデータに基づいて、正方形又は長方形の画像記憶領域を設定し、設定した画像記憶領域に画像データを記憶してもよい。
ここで、正方形の表示レイアウトとは、図3(C)のように行と列の数が同じ表示レイアウトのことを指す。一方、長方形の表示レイアウトとは、図4(C)や図5(C)のように行と列の数が異なる表示レイアウトのことを指す。
これにより、頭部装着型表示装置100の表示部140に表示させる画像の内容に応じて、情報端末200が表示レイアウトを変更することが可能となる。例えば、マップ画像を表示させる場合には正方形の表示レイアウトを示す表示レイアウトデータを選択したり、タワーなどの縦長の被写体の画像を表示させたりする場合には、縦長の長方形の表示レイアウトデータを選択すること等が可能となる。
また、通信部110は、表示領域の遷移モードを指定する表示領域遷移情報を、情報端末200から受信してもよい。そして、処理部130は、受信された表示領域遷移情報に基づいて、使用する遷移モードを特定し、特定された遷移モードで表示領域を遷移させてもよい。
ここで、遷移モードとは、処理部が行う一連の処理内容を決定付けるモードのことを言い、遷移モード毎に表示領域の移動方式(又は遷移方式)が異なる。具体的には、図10(A)に示したスクロール(スライド)移動モードや、図10(B)に示した瞬間移動モードや、図10(C)に示したページめくりモードなどがある。なお、遷移モードはこれらに限定されない。
また、表示領域遷移情報とは、使用する遷移モードを指定する情報のことをいう。
これにより、表示領域遷移情報により指定される遷移モードで、表示領域を遷移させること等が可能になる。
また、表示バッファ120は、第1の画像データを第1の領域に記憶し、第1の画像データとは画像の縮尺率が異なる第2の画像データを、第1の領域の第1の方向側にある第2の領域に記憶してもよい。そして、処理部130は、第1の領域から第1の方向側に表示領域を移動させて、第2の領域を表示領域に設定してもよい。
ここで、第1の画像データと第2の画像データは、互いに画像の縮尺率が異なる画像データのことをいう。例えば、第1の画像データは、図8の画像記憶領域IBの中央の領域AR5(第1の領域)に記憶される画像データのことを指し、その場合には第2の画像データは、図8の上段L1の一領域AR2(第2の領域)に記憶される画像データのことを指す。
そして、第1の領域とは、画像記憶領域のうち、第1の画像データを記憶する領域のことをいい、第2の領域は、画像記憶領域のうち、第2の画像データを記憶する領域のことをいう。また、第1の領域は第2の領域とは異なる。
さらに、例えば図8において、第1の方向は上方向のDR1である。これに限定されない。
これにより、ユーザが頭部姿勢を変化させることによって、表示部に縮尺率の異なる画像を表示すること等が可能になる。例えば、図8のような場合に、画像記憶領域IBの中央の領域AR5に表示領域IARが設定されている状態で、ユーザが頭部を上方向(第1の方向DR1)に向けた時に、表示領域IARを領域AR2に移動させて、現在参照している地図の拡大図を表示すること等が可能となる。一方、ユーザが頭部を下方向(第2の方向DR2)に向けた時に、表示領域IARを領域AR8に移動させて、現在参照している地図の縮小図を表示すること等が可能となる。
また、表示バッファ120は、第1の画像データと画像の縮尺率が等しい第3の画像データを、第1の領域の第2の方向側にある第3の領域に更に記憶してもよい。そして、処理部130は、第1の領域から第2の方向側に表示領域を移動させて、第3の領域を表示領域に設定してもよい。
ここで、第3の画像データとは、第1の画像データと画像の縮尺率が等しい画像データのことをいう。また、第3の領域とは、画像記憶領域のうち、第3の画像データを記憶する領域のことをいう。具体的に図8では、第1の画像データが画像記憶領域IBの中央の領域AR5に記憶されている場合には、第1の画像データと同じ中央段L2の他の領域(AR4又はAR6)に記憶される画像データが、第3の画像データとなる。
さらに、第2の方向は、例えば図8では、右方向DR3又は左方向DR4である。本例では、第2の方向(DR3又はDR4)は、第1の方向DR1と直交する。ただし、これに限定されない。例えば、第2の画像データを、第1の領域の左右の領域に記憶し、第3の画像データを第1の領域の上下の領域に記憶してもよい。
これにより、ユーザが頭部姿勢を変化させることによって、表示部に縮尺率が等しい他の画像を表示すること等が可能になる。例えば、図8のような場合に、ユーザが右方向(第3の方向DR3)を向けば、表示領域IARを領域AR6に移動させ、ユーザが左方向(第3の方向DR3)を向けば、表示領域IARを領域AR4に移動させて、縮尺率をそのままに表示する地域をスクロールすること等が可能となる。
また、処理部130は、ユーザ入力情報により表示領域の設定処理の停止が指示された場合には、頭部姿勢情報により表される頭部姿勢の変化が表示領域を移動させる変化であった場合でも、表示領域の移動を停止してもよい。
ここで、ユーザ入力情報とは、ユーザにより操作部160を介して入力される情報のことをいう。
これにより、現在の頭部姿勢に関わらず、特定の表示画像を継続して表示させたいとユーザが考えている場合に、操作部160を介して、表示領域の設定処理の停止を処理部130にユーザが指示すれば、ユーザの頭部姿勢が変わった場合でも、表示画像が切り替わらないようにすること等が可能となる。
また、通信部110は、表示バッファ120により画像データが記憶された後に、情報端末200との通信の停止処理を行ってもよい。
これにより、いったん頭部装着型表示装置で表示制御が開始すれば、情報端末200と頭部装着型表示装置の接続を切断すること等が可能となり、ユーザは頭部の動きで表示を制御することができるため、画像処理システム全体の消費電力を抑制すること等が可能になる。
また、処理部130は、基準頭部姿勢の更新指示情報がユーザにより入力された場合には、更新指示情報が入力された際における頭部姿勢を基準頭部姿勢として設定してもよい。
ここで、更新指示情報とは、基準頭部姿勢の更新を指示する情報のことをいう。
これにより、例えば、ユーザが直立しておらず、頭部が地面に対して水平・垂直でない状態で表示領域の設定処理が開始された場合にも、更新指示情報が入力された際における頭部姿勢を基準頭部姿勢として設定して、頭の動きでスクロール不可能な領域を無くすこと等が可能になる。
なお、本実施形態の頭部装着型表示装置等は、プログラムにより実現してもよい。この場合には、CPU等のプロセッサがプログラムを実行することで、本実施形態の頭部装着型表示装置等が実現される。具体的には、情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサが実行する。ここで、情報記憶媒体(コンピュータにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリ(カード型メモリ、ROM等)などにより実現できる。そして、CPU等のプロセッサは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち、情報記憶媒体には、本実施形態の各部としてコンピュータ(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピュータに実行させるためのプログラム)が記憶される。
以上のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また頭部装着型表示装置、プログラム及び画像処理システムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
100 頭部装着型表示装置、110 通信部、120 表示バッファ、
130 処理部、140 表示部、150 情報取得部、160 操作部、
200 情報端末、210 通信部、220 記憶部、230 処理部、
550 GPSセンサ、551 加速度センサ、560 方位センサ

Claims (14)

  1. 画像データと画像の表示レイアウトデータとを情報端末から受信する通信部と、
    前記表示レイアウトデータにより設定された画像記憶領域に前記画像データを記憶する表示バッファと、
    前記表示バッファの前記画像記憶領域に表示領域を設定する処理部と、
    設定された前記表示領域の画像を表示画像として表示する表示部と、
    を含み、
    前記処理部は、
    頭部装着型センサから取得される頭部姿勢情報に基づいて、前記画像記憶領域に前記表示領域を設定することを特徴とする頭部装着型表示装置。
  2. 請求項1において、
    前記処理部は、
    前記頭部姿勢情報により表される頭部姿勢が第1の頭部姿勢である場合には、前記表示領域として第1の表示領域を設定し、
    前記頭部姿勢が第2の頭部姿勢である場合には、前記表示領域として第2の表示領域を設定し、
    前記表示部は、
    前記第1の表示領域が設定された場合には、前記第1の表示領域の画像を前記表示画像として表示し、
    前記第2の表示領域が設定された場合には、前記第2の表示領域の画像を前記表示画像として表示することを特徴とする頭部装着型表示装置。
  3. 請求項2において、
    前記処理部は、
    取得された前記頭部姿勢情報に基づいて姿勢変化量を求め、前記姿勢変化量が所定の閾値以上であると判断する場合に、前記表示領域を前記第1の表示領域から前記第2の表示領域に移動させることを特徴とする頭部装着型表示装置。
  4. 請求項2又は3において、
    前記処理部は、
    前記画像記憶領域に前記第2の表示領域を設定できないと判断した場合に、前記情報端末に対して画像データの送信要求を行うことを特徴とする頭部装着型表示装置。
  5. 請求項4において、
    前記通信部は、
    前記送信要求に対応して前記情報端末が送信した前記画像データを前記情報端末から受信し、
    前記処理部は、
    受信した前記画像データに基づいて、前記表示バッファに記憶される前記画像データの更新処理を行うことを特徴とする頭部装着型表示装置。
  6. 請求項1乃至5のいずれかにおいて、
    前記表示バッファは、
    受信された前記表示レイアウトデータに基づいて、正方形又は長方形の前記画像記憶領域を設定し、設定した前記画像記憶領域に前記画像データを記憶することを特徴とする頭部装着型表示装置。
  7. 請求項1乃至6のいずれかにおいて、
    前記通信部は、
    前記表示領域の遷移モードを指定する表示領域遷移情報を、前記情報端末から受信し、
    前記処理部は、
    受信された前記表示領域遷移情報に基づいて、使用する前記遷移モードを特定し、特定された前記遷移モードで前記表示領域を遷移させることを特徴とする頭部装着型表示装置。
  8. 請求項1乃至7のいずれかにおいて、
    前記表示バッファは、
    第1の画像データを第1の領域に記憶し、前記第1の画像データとは画像の縮尺率が異なる第2の画像データを、前記第1の領域の第1の方向側にある第2の領域に記憶し、
    前記処理部は、
    前記第1の領域から前記第1の方向側に前記表示領域を移動させて、前記第2の領域を前記表示領域に設定することを特徴とする頭部装着型表示装置。
  9. 請求項8において、
    前記表示バッファは、
    前記第1の画像データと画像の縮尺率が等しい第3の画像データを、前記第1の領域の第2の方向側にある第3の領域に更に記憶し、
    前記処理部は、
    前記第1の領域から前記第2の方向側に前記表示領域を移動させて、前記第3の領域を前記表示領域に設定することを特徴とする頭部装着型表示装置。
  10. 請求項1乃至9のいずれかにおいて、
    前記処理部は、
    ユーザ入力情報により前記表示領域の設定処理の停止が指示された場合には、前記頭部姿勢情報により表される頭部姿勢の変化が前記表示領域を移動させる変化であった場合でも、前記表示領域の移動を停止することを特徴とする頭部装着型表示装置。
  11. 請求項1乃至10のいずれかにおいて、
    前記通信部は、
    前記表示バッファにより前記画像データが記憶された後に、前記情報端末との通信の停止処理を行うことを特徴とする頭部装着型表示装置。
  12. 請求項1乃至11のいずれかにおいて、
    前記処理部は、
    基準頭部姿勢の更新指示情報がユーザにより入力された場合には、前記更新指示情報が入力された際における前記頭部姿勢を前記基準頭部姿勢として設定することを特徴とする頭部装着型表示装置。
  13. 画像データと画像の表示レイアウトデータとを情報端末から受信する通信部と、
    前記表示レイアウトデータにより設定された画像記憶領域に前記画像データを記憶する表示バッファと、
    前記表示バッファの前記画像記憶領域に表示領域を設定する処理部と、
    設定された前記表示領域の画像を表示画像として表示する表示部として、
    コンピュータを機能させ、
    前記処理部は、
    頭部装着型センサから取得される頭部姿勢情報に基づいて、前記画像記憶領域に前記表示領域を設定することを特徴とするプログラム。
  14. 情報端末と、
    頭部装着型表示装置と、
    を含み、
    前記情報端末は、
    画像データと画像の表示レイアウトデータとを前記頭部装着型表示装置に送信し、
    前記頭部装着型表示装置は、
    前記画像データと前記画像の前記表示レイアウトデータとを前記情報端末から受信し、
    前記表示レイアウトデータにより設定された画像記憶領域に前記画像データを記憶し、
    頭部装着型センサから取得される頭部姿勢情報に基づいて、前記表示バッファの前記画像記憶領域に表示領域を設定し、
    設定された前記表示領域の画像を表示画像として表示することを特徴とする画像処理システム。
JP2011233914A 2011-10-25 2011-10-25 頭部装着型表示装置、プログラム及び画像処理システム Active JP5829097B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011233914A JP5829097B2 (ja) 2011-10-25 2011-10-25 頭部装着型表示装置、プログラム及び画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011233914A JP5829097B2 (ja) 2011-10-25 2011-10-25 頭部装着型表示装置、プログラム及び画像処理システム

Publications (2)

Publication Number Publication Date
JP2013093705A true JP2013093705A (ja) 2013-05-16
JP5829097B2 JP5829097B2 (ja) 2015-12-09

Family

ID=48616510

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011233914A Active JP5829097B2 (ja) 2011-10-25 2011-10-25 頭部装着型表示装置、プログラム及び画像処理システム

Country Status (1)

Country Link
JP (1) JP5829097B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015068440A1 (ja) * 2013-11-08 2015-05-14 ソニー株式会社 情報処理装置、制御方法およびプログラム
JP2016024751A (ja) * 2014-07-24 2016-02-08 シャープ株式会社 画像表示装置
WO2016092698A1 (ja) * 2014-12-12 2016-06-16 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US9658451B2 (en) 2013-09-05 2017-05-23 Seiko Epson Corporation Head mounted display, method of controlling head mounted display, and image display system
JP2017098921A (ja) * 2015-11-28 2017-06-01 キヤノン株式会社 送信装置、送信方法、およびプログラム
US9905050B2 (en) 2014-05-26 2018-02-27 Samsung Electronics Co., Ltd. Method of processing image and electronic device thereof
JP2019040610A (ja) * 2015-08-06 2019-03-14 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
JP2020502719A (ja) * 2016-12-23 2020-01-23 リアルウェア,インコーポレーテッド タッチ式操作システムのハンズフリーナビゲーション
US10823962B2 (en) 2017-12-22 2020-11-03 Seiko Epson Corporation Processing device having connection detector, display system, and non-transitory computer-readable storage medium
US11340465B2 (en) 2016-12-23 2022-05-24 Realwear, Inc. Head-mounted display with modular components
US11507216B2 (en) 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0927971A (ja) * 1995-07-10 1997-01-28 Shimadzu Corp 画像表示システム
JP2009294372A (ja) * 2008-06-04 2009-12-17 Nikon Corp ヘッドマウントディスプレイ装置
JP2009296228A (ja) * 2008-06-04 2009-12-17 Nikon Corp ヘッドマウントディスプレイ装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0927971A (ja) * 1995-07-10 1997-01-28 Shimadzu Corp 画像表示システム
JP2009294372A (ja) * 2008-06-04 2009-12-17 Nikon Corp ヘッドマウントディスプレイ装置
JP2009296228A (ja) * 2008-06-04 2009-12-17 Nikon Corp ヘッドマウントディスプレイ装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9658451B2 (en) 2013-09-05 2017-05-23 Seiko Epson Corporation Head mounted display, method of controlling head mounted display, and image display system
US10359839B2 (en) 2013-11-08 2019-07-23 Sony Corporation Performing output control based on user behaviour
WO2015068440A1 (ja) * 2013-11-08 2015-05-14 ソニー株式会社 情報処理装置、制御方法およびプログラム
US9905050B2 (en) 2014-05-26 2018-02-27 Samsung Electronics Co., Ltd. Method of processing image and electronic device thereof
JP2016024751A (ja) * 2014-07-24 2016-02-08 シャープ株式会社 画像表示装置
WO2016092698A1 (ja) * 2014-12-12 2016-06-16 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US9965830B2 (en) 2014-12-12 2018-05-08 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program
JP2019040610A (ja) * 2015-08-06 2019-03-14 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
JP2017098921A (ja) * 2015-11-28 2017-06-01 キヤノン株式会社 送信装置、送信方法、およびプログラム
JP2020502719A (ja) * 2016-12-23 2020-01-23 リアルウェア,インコーポレーテッド タッチ式操作システムのハンズフリーナビゲーション
US11340465B2 (en) 2016-12-23 2022-05-24 Realwear, Inc. Head-mounted display with modular components
US11409497B2 (en) 2016-12-23 2022-08-09 Realwear, Inc. Hands-free navigation of touch-based operating systems
US11507216B2 (en) 2016-12-23 2022-11-22 Realwear, Inc. Customizing user interfaces of binary applications
JP7334120B2 (ja) 2016-12-23 2023-08-28 リアルウェア,インコーポレーテッド タッチ式操作システムのハンズフリーナビゲーション
US11947752B2 (en) 2016-12-23 2024-04-02 Realwear, Inc. Customizing user interfaces of binary applications
US10823962B2 (en) 2017-12-22 2020-11-03 Seiko Epson Corporation Processing device having connection detector, display system, and non-transitory computer-readable storage medium

Also Published As

Publication number Publication date
JP5829097B2 (ja) 2015-12-09

Similar Documents

Publication Publication Date Title
JP5829097B2 (ja) 頭部装着型表示装置、プログラム及び画像処理システム
JP5993127B2 (ja) 頭部装着型表示装置、情報端末、プログラム、情報記憶媒体、画像処理システム、頭部装着型表示装置の制御方法及び情報端末の制御方法
US10817243B2 (en) Controlling a user interface based on change in output destination of an application
JP5909034B1 (ja) ヘッドマウントディスプレイ用ユーザインターフェース
JP5205557B2 (ja) 端末の角度に応じて互いに異なる映像情報を提供するための方法、端末およびコンピュータ読取可能な記録媒体
US10228766B2 (en) Enhanced Display Rotation
JP5675470B2 (ja) 画像生成システム、プログラム及び情報記憶媒体
JP6421670B2 (ja) 表示制御方法、表示制御プログラム、及び情報処理装置
US10642348B2 (en) Display device and image display method
US20140146075A1 (en) Electronic Apparatus and Display Control Method
EP3223113A1 (en) Foldable display device capable of fixing screen by means of folding display and method for controlling the foldable display device
CN107003719A (zh) 计算装置、用于控制所述计算装置的方法以及多显示器系统
US20140152562A1 (en) Display controller, display system, storage medium and method
KR20160067622A (ko) 전자 디바이스 및 전자 디바이스를 통하여 글자 입력을 수신하기 위한 방법
US20220091717A1 (en) Methods, systems, and media for presenting offset content
JP6623362B2 (ja) 表示制御装置及びプログラム
JP2016110296A (ja) ウェアラブルデバイス、情報処理方法及びプログラム
US11928264B2 (en) Fixed user interface navigation
JP2020074061A (ja) 表示制御装置及びプログラム
JP2020074062A (ja) 表示制御装置及びプログラム
TW201805770A (zh) 虛擬實境環境中實境資訊之顯示方法及系統,及其相關電腦程式產品
TW201931064A (zh) 具有地圖索引之虛擬實境導覽方法及系統,及其相關電腦程式產品
KR20150060117A (ko) 디지털 지도장치 및 그 조작방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140918

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151006

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151021

R151 Written notification of patent or utility model registration

Ref document number: 5829097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250