JP2017009741A - 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム - Google Patents

画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム Download PDF

Info

Publication number
JP2017009741A
JP2017009741A JP2015123848A JP2015123848A JP2017009741A JP 2017009741 A JP2017009741 A JP 2017009741A JP 2015123848 A JP2015123848 A JP 2015123848A JP 2015123848 A JP2015123848 A JP 2015123848A JP 2017009741 A JP2017009741 A JP 2017009741A
Authority
JP
Japan
Prior art keywords
image
display
display device
image display
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015123848A
Other languages
English (en)
Other versions
JP6610022B2 (ja
Inventor
高橋 健一
Kenichi Takahashi
健一 高橋
功資 大島
Kosuke Oshima
功資 大島
武士 前川
Takeshi Maekawa
武士 前川
橋本 昌也
Masaya Hashimoto
昌也 橋本
山田 匡実
Masami Yamada
匡実 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2015123848A priority Critical patent/JP6610022B2/ja
Publication of JP2017009741A publication Critical patent/JP2017009741A/ja
Application granted granted Critical
Publication of JP6610022B2 publication Critical patent/JP6610022B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】画像表示装置と頭部装着型表示装置の両者に表示させる画像が重なり合うことなく、いずれについても良好に視認可能にする。
【解決手段】ヘッドマウントディスプレイ3と通信可能な画像表示装置2は、画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示部70を備え、ヘッドマウントディスプレイ3は、ユーザーの視界方向におけるブランク領域の位置及びサイズを検知する検知部96と、ユーザーが表示部15を通してブランク領域を視認可能な画像表示領域を特定する特定部98と、画像表示領域内に表示させる表示画像を静止得する画像制止得部101と、表示画像を画像表示領域内に表示させる表示制御部103とを備える。
【選択図】図5

Description

本発明は、画像表示システム、画像表示装置、頭部装着型表示装置及びプログラムに関し、特に画像表示装置に表示される画像と頭部装着型表示装置に表示される画像とを同時に視認するシステムに関する。
従来、ユーザーの頭部に装着し、透過型の表示手段に画像を表示させることによりユーザーが表示手段を透過して視認できる外景と画像とを同時に視認可能な頭部装着型表示装置が知られている。このような頭部装着型表示装置はユーザーの視界を遮断しないため、頭部装着型表示装置の表示手段に適宜画像を表示させながら、ユーザーは移動や作業を行うことが可能となる。例えば、パーソナルコンピュータなど表示画面に画像を表示させることが可能な画像表示装置を用いて、表示画面に画像を表示させて作業を行いながら、必要に応じて頭部装着型表示装置の表示手段に画像を表示させることが可能となり、作業効率を上げることができる。
しかし、例えばユーザーが画像表示装置の表示画面に画像を表示させながら、頭部装着型表示装置の表示手段にも画像を表示させている場合、画像表示装置と頭部装着型表示装置とは互いに連携していないことから、画像表示装置の表示画面に表示される画像と頭部装着型表示装置の表示手段に表示される画像とが互いに重なる場合があり、いずれの画像についても視認困難となる。
このような問題を解決するため、スクリーンにメインコンテンツが表示されている場合に、メインコンテンツ表示と重なり合わない位置にサブコンテンツの表示位置を決定する頭部装着型表示装置が提案されている(例えば特許文献1)。このような頭部装着型表示装置によると、サブコンテンツを表示可能な領域が存在する限りにおいて、メインコンテンツ表示とサブコンテンツとが互いに重なり合うことなく、ユーザーはいずれのコンテンツ表示も良好に視認できる。
特開2010−237522号公報
しかしながら、メインコンテンツ表示の大きさによってはサブコンテンツを表示可能な領域が存在しない場合がある。そうすると、サブコンテンツの表示位置を決定することができないことになる。
そこで本発明は、上記のような従来の問題点を解決課題としており、画像表示装置と頭部装着型表示装置の両者に表示させる画像のいずれについても良好に視認可能な画像表示システム、画像表示装置、頭部装着型表示装置及びプログラムを提供することを目的とする。
上記目的を達成するため、請求項1に係る発明は、透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と、前記頭部装着型表示装置と通信可能な画像表示装置とを備える画像表示システムであって、前記画像表示装置は、画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段を備え、前記頭部装着型表示装置は、前記頭部装着型表示装置を装着したユーザーの視界方向における前記ブランク領域の位置及びサイズを検知する検知手段と、前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段と、前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段と、前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段とを備えることを特徴とする構成である。
請求項2に係る発明は、請求項1に記載の画像表示システムであって、前記頭部装着型表示装置は、ユーザーの視界方向の外景画像を撮像する撮像手段と、前記ブランク領域の特徴情報を記憶する記憶手段とをさらに備え、前記検知手段は、前記記憶手段に記憶される前記特徴情報を参照して、前記撮像手段により撮像された前記外景画像から前記ブランク領域の位置及びサイズを検知することを特徴とする構成である。
請求項3に係る発明は、請求項2に記載の画像表示システムであって、前記特定手段は、前記検知手段により検知された前記ブランク領域の位置及びサイズを、前記表示手段に対する前記撮像手段の相対的な位置関係に基づいて補正し、前記画像表示領域の位置及びサイズを特定することを特徴とする構成である。
請求項4に係る発明は、請求項2又は3に記載の画像表示システムであって、前記頭部装着型表示装置は、前記画像表示装置に対して前記ブランク領域の表示要求を送信する表示要求手段をさらに備え、前記ブランク表示手段は、前記頭部装着型表示装置から前記表示要求を受信すると、前記ブランク領域を表示することを特徴とする構成である。
請求項5に係る発明は、請求項2乃至4のいずれかに記載の画像表示システムであって、前記ブランク表示手段は、前記ブランク領域を表示すると、前記頭部装着型表示装置に対して前記特徴情報を送信することを特徴とする構成である。
請求項6に係る発明は、請求項1乃至5のいずれかに記載の画像表示システムであって、前記画像表示装置は、ユーザーにより操作可能な操作手段と、前記操作手段に対する操作に応じて行われる入力を受け付ける第1入力受付手段とをさらに備え、前記ブランク表示手段は、前記第1入力受付手段により受け付けられた所定の入力に応じて、前記ブランク領域の位置又はサイズを変更、若しくは新たなブランク領域を追加可能であることを特徴とする構成である。
請求項7に係る発明は、請求項6に記載の画像表示システムであって、前記画像表示装置は、前記操作手段の操作に応じて行われる入力の出力先を前記画像表示装置又は前記頭部装着型表示装置のいずれかに切り換える出力先切換手段をさらに備え、前記第1入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記画像表示装置から前記頭部装着型表示装置に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力し、前記頭部装着型表示装置は、前記画像表示装置から受信した前記操作手段の操作に基づく入力を受け付ける第2入力受付手段をさらに備え、前記画像生成手段は、前記第2入力受付手段により受け付けられた前記操作手段の操作に基づく入力に応じて前記表示画像を変化させることを特徴とする構成である。
請求項8に係る発明は、請求項1乃至7のいずれかに記載の画像表示システムであって、前記画像表示装置は、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、前記ブランク表示手段は、前記画像表示画面内における前記ウィンドウ表示画像と重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項9に係る発明は、請求項1乃至7のいずれかに記載の画像表示システムであって、前記画像表示装置は、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、前記ブランク表示手段は、前記ウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項10に係る発明は、請求項1乃至7のいずれかに記載の画像表示システムであって、前記画像表示装置は、前記画像表示画面内に複数のウィンドウを表示可能であり、前記複数のウィンドウのうちユーザーにより選択された一のウィンドウをアクティブウィンドウとし、前記ブランク表示手段は、前記アクティブウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項11に係る発明は、請求項1乃至7のいずれかに記載の画像表示システムであって、前記画像表示装置は、前記画像表示画面内にウィンドウ画像を有するウィンドウを表示可能であり、前記ブランク表示手段は、前記ウィンドウ画像の画像成分のうち隠蔽される画像成分が最少となる領域に前記ブランク領域を表示することを特徴とする請求項1乃至7のいずれかに記載の画像表示システム。
請求項12に係る発明は、透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と通信可能な画像表示装置であって、画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段を備えることを特徴とする構成である。
請求項13に係る発明は、請求項12に記載の画像表示装置であって、ユーザーにより操作可能な操作手段と、前記操作手段に対する操作に応じて行われる入力を受け付ける入力受付手段と、前記操作手段の操作に応じて行われる入力の出力先を切り換える出力先切換手段とをさらに備え、前記入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記頭部装着型表示手段に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力することを特徴とする構成である。
請求項14に係る発明は、請求項12又は13に記載の画像表示装置であって、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、前期ブランク表示手段は、前記画像表示画面内における前記ウィンドウ表示画像と重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項15に係る発明は、請求項12又は13に記載の画像表示装置であって、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、前記ブランク表示手段は、前記ウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項16に係る発明は、請求項12又は13に記載の画像表示装置であって、前記画像表示画面内に複数のウィンドウを表示可能であり、前記複数のウィンドウのうちユーザーにより選択された一のウィンドウをアクティブウィンドウとし、前記ブランク表示手段は、前記アクティブウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする構成である。
請求項17に係る発明は、透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置であって、ユーザーにより装着された状態でユーザーの視界方向において、前記頭部装着型表示装置と通信可能な画像表示装置の画像表示画面内に表示される画像成分の存在しないブランク領域の位置及びサイズを検知する検知手段と、前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段と、前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段と、前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段とを備えることを特徴とする構成である。
請求項18に係る発明は、請求項17に記載の頭部装着型表示装置であって、ユーザーの視界方向の外景画像を撮像する撮像手段と、前記ブランク領域の特徴情報を記憶する記憶手段とをさらに備え、前記検知手段は、前記記憶手段に記憶される前記特徴情報を参照して、前記撮像手段により撮像された前記外景画像から前記ブランク涼気の位置及びサイズを検知することを特徴とする構成である。
請求項19に係る発明は、請求項18に記載の頭部装着型表示装置であって、前記特定手段は、前記検知手段により検知された前記ブランク領域の位置及びサイズを、前記表示手段に対する前記撮像手段の相対的な位置関係に基づいて補正し、前記画像表示領域の位置及びサイズを特定することを特徴とする構成である。
請求項20に係る発明は、透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と通信可能な画像表示装置において実行されるプログラムであって、前記画像表示装置を、画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段として機能させることを特徴とする構成である。
請求項21に係る発明は、請求項20に記載のプログラムであって、前記画像表示装置を、ユーザーにより操作可能な操作手段に対する操作に応じて行われる入力を受け付ける入力受付手段と、前記操作手段の操作に応じて行われる入力の出力先を前記画像表示装置又は前記頭部装着型表示装置のいずれかに切り換える出力先切換手段としてさらに機能させ、前記入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記画像表示装置から前記頭部装着型表示装置に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力することを特徴とする構成である。
請求項22に係る発明は、透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置において実行されるプログラムであって、前記頭部装着型表示装置をユーザーにより装着された状態でユーザーの視界方向において、前記頭部装着型表示装置と通信可能な画像表示装置の画像表示画面内に表示される画像成分の存在しないブランク領域の位置及びサイズを検知する検知手段と、前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段と、前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段、及び、前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段として機能させることを特徴とするプログラム。
本発明によれば、画像表示装置が画像成分の存在しないブランク領域を画像表示画面内に表示し、頭部装着型表示装置が表示手段を通してブランク領域を視認可能な領域に表示画像を表示させるため、ユーザーの視界には、画像表示装置に表示されている画像と頭部装着型表示装置が表示させる表示画像とが重なり合うことなく表示される。よって、画像表示画面内に画像を表示させながら、頭部装着型表示装置により表示画像を表示させる場合に、表示画像を良好に視認可能となる。
情報表示システムの全体の構成例を示す図である。 情報表示システムの処理の概要を示す図である。 頭部装着型表示装置を装着した場合の画像の表示態様の一例を示す概念図である。 画像表示装置および頭部装着型表示装置のそれぞれにおいて表示される画面構成の一例を示す図である。 画像表示装置及び頭部装着型表示装置の機能構成の一例を示すブロック図である。 ブランク領域の表示態様の一例を示す図である。 ブランク領域の表示態様の一例を示す図である。 頭部装着型表示装置を通してブランク領域を視認する場合の表示態様の一例を示す図である。 頭部装着型表示装置を通してブランク領域を視認する場合の表示態様の一例を示す図である。 頭部装着型表示装置を通してブランク領域を視認場合の表示態様の一例を示す図である。 表示中のブランク領域のサイズ、位置を変化させる場合の一例を示す図である。 表示中のブランク領域における操作入力に応じてブランク領域を新たに表示する場合の一例を示す図である。 頭部装着型表示装置の表示部に表示される表示画像の表示態様を操作手段による操作入力に基づき変化させる場合の一例を示す図である。 画像表示装置において行われる主要な処理手順の一例を示すフローチャートである。 ブランク表示処理の具体的な処理手順の一例を示すフローチャートである。 頭部装着型表示装置に置いて行われる主要な処理手順の一例を示すフローチャートである。 表示画像表示処理の具体的な処理手順の一例を示すフローチャートである。 入力受付処理の具体的な処理手順の一例を示すフローチャートである。
以下、本発明に関する好ましい実施形態について、図面を参照しつつ詳細に説明する。なお、以下に説明する実施形態において互いに共通する部材には同一符号を付しており、それらにつき重複する説明は省略する。
図1は、本実施形態における画像表示システム1の一構成例を示す図である。この画像表示システム1は、画像表示装置2と頭部装着型表示装置3とを備え、これらが無線又は有線により通信可能に接続された構成である。図1(a)に示すように画像表示装置2と頭部装着型表示装置3とは、ネットワークを介して相互に通信を行ってもよいし、或いは無線通信を行ってもよい。画像表示装置2は、画像を表示するための表示部20を備えており、例えば画像表示用ディスプレイを備えるパーソナルコンピュータである。頭部装着型表示装置3は、例えば眼鏡タイプでユーザーの頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mount Display)とも呼ばれる(以下、頭部装着型表示装置3を「ヘッドマウントディスプレイ3」とする)。本実施形態におけるヘッドマウントディスプレイ3は、表示画面に表示させる画像と同時に外景を透過して視認可能である。
ヘッドマウントディスプレイ3は、外景を透過すると共に画像を表示させる表示部15と、画像の表示を制御する制御部30とを備える。表示部15は、ユーザーの眼の前方数センチ程度の位置に配置される透明板を有し、その透明板に画像を表示させることでユーザーに視認させる。表示部15による画像の表示態様は、例えば透明板に画像を投影するタイプのものであっても良いし、また透明板を液晶パネルなど構成して透明板に直接画像を表示させるタイプのものであっても良い。このような表示部15は光を透過させるため、ユーザーは、透明板よりも更に遠くにある外景を同時に視認することが可能である。また、ヘッドマウントディスプレイ3は、所定箇所に外景画像を撮影可能な撮像部10を備える。撮像部10は、ヘッドマウントディスプレイ3を装着した状態におけるユーザーの視界方向の外景を撮像し、その外景画像を取得する。このようなヘッドマウントディスプレイ3を装着すると、画像表示装置2の表示部20に表示される画像がヘッドマウントディスプレイ3の表示部15を透過するので、ユーザーは、画像表示装置2の表示部20の表示画面を視認しながら、同時に表示部15に表示させた画像を視認できる。
図1(b)に示すように画像表示装置2とヘッドマウントディスプレイ3は例えばBluetooth(登録商標)などの近距離無線通信により一対一で互いに通信可能に構成されている。また画像表示装置2およびヘッドマウントディスプレイ3はそれぞれ有線又は無線でネットワーク5に接続されており、ネットワーク5を経由して他のデバイスとデータ通信を行うことが可能である。画像表示装置2およびヘッドマウントディスプレイ3は、アクセスポイント100にアクセスすることによりネットワーク5を経由して他のデバイスとデータ通信を行う。尚、画像表示装置2とヘッドマウントディスプレイ3とのデータ通信についてもネットワーク5を介して行うものであっても構わない。
図2は、ヘッドマウントディスプレイ3を装着したユーザーが、画像表示装置2の表示部20に表示される画面PGを見る場合におけるデータ等のやり取りの一例を示す図である。図2に示すようにユーザーがヘッドマウントディスプレイ3を装着してヘッドマウントディスプレイ3を起動しているとき、例えばヘッドマウントディスプレイ3がネットワーク5を介して表示部15に表示させる表示データを受信すると(P1)、ヘッドマウントディスプレイ3は、画像表示装置2に対して、画像表示装置2の画面PGに画像成分の存在しない領域(以下、「ブランク領域」という)を表示するよう要求する(P2)。ブランク領域の表示要求を受信すると、画像表示装置2は全画面領域である画面PG内の少なくとも一部に画像成分のない空ウィンドウなどのブランク領域を表示する(P2)。画像表示装置2は、ブランク領域を画面PG内に表示すると、ブランク領域の特徴情報をヘッドマウントディスプレイ3に対して送信する(P4)。特徴情報は、画面PG内において表示したブランク領域の特徴を示す情報であり、ヘッドマウントディスプレイ3においてブランク領域を検出可能にするための情報である。このような特徴情報は、例えばブランク領域の位置及びサイズに関する情報であってもよいし、また例えばブランク領域の外周(空ウィンドウのウィンドウ枠)の色、線の態様などであってもよい。なお、本実施形態とは異なり、ブランク領域を表示する毎に画像表示装置2からヘッドマウントディスプレイ3に対して特徴情報を送信するのではなく、ヘッドマウントディスプレイ3が予め特徴情報を記憶していてもよい。
ヘッドマウントディスプレイ3は特徴情報に基づき、画像表示装置2の画面PGにおけるブランク領域を検知する。そしてヘッドマウントディスプレイ3は、ユーザーが表示部15を通してブランク領域を視認する際にそのブランク領域が表示部15を透過する位置及びサイズを検知する。すなわち、ヘッドマウントディスプレイ3は、ユーザーの視線を基準にして、画像表示装置2において表示されるブランク領域を表示部15に投影したときのブランク領域の位置及びサイズを検知するのである。そしてヘッドマウントディスプレイ3は、ブランク領域を表示部15に投影したときの位置及びサイズに基づき、ブランク領域の内側に表示させるべき表示画像を表示データに基づいて生成し、表示部15においてブランク領域が透過する部分にその表示画像を表示させる(P5)。
図3は、ユーザーがヘッドマウントディスプレイ3の表示部15を通して画像表示装置2の画面PGを視認した場合に、表示部15に表示画像SDを表示させる一例を示す図である。ヘッドマウントディスプレイ3の撮像部10は、ユーザーの視認方向αにおける外景画像を撮像する。図例の撮像部10により撮像された外景画像には、画像表示装置2の全画面領域である画面PGが含まれる。したがって、画像表示装置2においてブランク領域BLが表示されると、そのブランク領域BLが撮像部10によって撮影される外景画像に含まれる。ヘッドマウントディスプレイ3は、この外景画像からブランク領域BLの特徴情報に基づいてブランク領域BLの位置及びサイズを検出すると、撮像部10とユーザーの目の相対的な位置関係及び撮像部10の撮影方向とユーザーの視線方向のずれに基づき、ユーザーの右目RY及び左目LYのそれぞれがブランク領域BLを視認したときにそのブランク領域BLが表示部15を透過する位置及びサイズを特定する。そしてヘッドマウントディスプレイ3は、ユーザーの右目RYと左目LYのそれぞれがブランク領域BLを視認したときにブランク領域BLが表示部15を透過する領域の内側に表示させるべき表示画像SDを、表示対象となる表示データに基づいて生成する。このとき、ヘッドマウントディスプレイ3は、右目RY用の表示画像SDと左眼LY用の表示画像SDとを個別に生成する。そしてヘッドマウントディスプレイ3は、それらの表示画像SDを、表示部15のブランク領域BLが透過する部分に表示させる。そうすると、ユーザーからはブランク領域BLを視認可能な領域に表示画像SDが表示される。また画像表示装置2において表示されるブランク領域の内側は、余白となっており、画像成分が存在しない。そのため、ヘッドマウントディスプレイ3は、表示部15に表示画像SDを表示するとき、ブランク領域BLが透過する部分の内側に表示画像SDを表示させることで、表示画像SDを画像表示装置2において表示されている画像と重なり合うことなく表示させることができる。その結果、ユーザーはヘッドマウントディスプレイ3で表示される表示画像SDと画像表示装置2で表示される画像との双方を良好に視認することが可能となる。
図4は、図3に示すようにユーザーがヘッドマウントディスプレイ3を通して画像表示装置2の画面を視認する場合に、画像表示装置2とヘッドマウントディスプレイ3のそれぞれの画面の表示態様の一例を示す図である。図4(a)は、画像表示装置2の全画面領域である画面PGの表示態様である。すなわち、画面PGには画像D1及びD2を有するウィンドウW1が表示されていると共に、ブランク領域BLが表示されている。ブランク領域BLは、例えば図4(a)に示すように画面PGで表示されているウィンドウW1と重なり合わない位置に表示される。そしてヘッドマウントディスプレイ3は、図4(a)に示す画面PGを撮像部10で撮像し、撮像部10とユーザーの目との相対的な位置関係などに基づいて、ユーザーの右目RYと左目LYのそれぞれがブランク領域BLを視認したときにブランク領域BLが表示部15を透過する領域を検知する。そしてヘッドマウントディスプレイ3は、表示部15において画像を表示可能な全画面領域である画面HG上のブランク領域BLが透過する領域の内側に表示画像SDを表示させる(図4(b))。尚、図4(b)では、画面HGに対して表示画像SDの表示例をひとつだけ示しているが、実際には右目RY用の画面HGと左目LY用の画面HGとで異なる表示態様となる。そうすると、ユーザーの右目RY及び左目LYは、表示部15を透過した画像表示装置2の画面PGと、表示部15に表示される表示画像SDとを同時に視認することにより、図4(c)に示す態様の画面HGを認識することができる。すなわち、画像表示装置2の画面PGのブランク領域BLとヘッドマウントディスプレイ3の画面HGに表示されるSDとは、ユーザーによって視認されるときには互いに重なり合うため、ユーザーは画像成分が存在しないブランク領域BLの内側に表示画像SDが見えるのである。
次に、画像表示装置2及びヘッドマウントディスプレイ3の構成について説明する。図5は、画像表示装置2及びヘッドマウントディスプレイ3のそれぞれにおける機能構成の一例を示すブロック図である。
画像表示装置2は、CPU40と、画面PGに画像等を表示可能な表示部20と、ヘッドマウントディスプレイ3との通信を制御する通信制御部41と、記憶部43とを備える。また、画像表示装置2は、キーボードやマウスなどユーザーが操作入力可能な操作部77を備える。CPU40は、記憶部43に記憶される作業アプリケーションプログラム80が実行されることにより作業アプリケーション60として機能し、また、ヘッドマウントディスプレイ3との通信を行う連携アプリケーションプログラム81が実行されることにより連携アプリケーション63として機能する。作業アプリケーション60は、例えばユーザーの操作に応じて所定の処理を行い、画面PGに各種画像を含む作業ウィンドウを表示するアプリケーションである。連携アプリケーションは、ヘッドマウントディスプレイ3と無線通信を行うことによりヘッドマウントディスプレイ3と連携する動作を行うためのアプリケーションである。
連携アプリケーション63は、操作部77による操作入力を受け付ける入力受付部72と、ブランク表示部70と、メニュー表示部74と、出力先切換部76とを備える。ブランク表示部70は、通信制御部41がヘッドマウントディスプレイ3からブランク領域BLの表示要求を受信した場合に機能し、表示部20の少なくとも一部にブランク領域BLを表示する処理部である。入力受付部72は、ブランク表示部70によってブランク領域BLが表示されているときに、ユーザーがブランク領域BLに対する操作を行うことによって操作部77で生成される操作情報を、出力先切換部76を介して受け付ける処理部である。メニュー表示部74は、入力受付部72によってブランク領域BLに対するユーザーの操作が受け付けられた場合に機能し、表示部20にメニュー画面などを表示させる処理部である。出力先切換部76は、ユーザーの操作に基づいて操作部77から出力される操作情報の出力先を、入力受付部72とヘッドマウントディスプレイ3との間で切り替える処理部である。以下、これら各部について詳しく説明する。
ブランク表示部70は表示部20に表示される画面PG内の少なくとも一部に、画像成分の存在しないブランク領域BLを表示する処理部である。本実施形態において、ブランク表示部70はヘッドマウントディスプレイ3からブランク領域BLを表示するよう表示要求を受けると、表示部20の画面PG内にブランク領域BLを表示する。なお、これとは異なり、ブランク表示部70はヘッドマウントディスプレイ3との無線通信状態が確立されると、所定タイミングにおいてブランク領域BLを画面PG内に表示させてもよい。
ブランク表示部70は、ブランク領域BLを表示すると、ヘッドマウントディスプレイ3に対してブランク領域の特徴情報を送信する。これにより、ヘッドマウントディスプレイ3は、特徴情報を参照することにより画面PGを撮像した外景画像からブランク領域BLを検出可能となる。なお、本実施形態とは異なり、ブランク領域BLが表示され毎にブランク表示部70からヘッドマウントディスプレイ3に特徴情報を送信するのではなく、予めヘッドマウントディスプレイ3が特徴情報を記憶しているものであっても良い。例えば、ヘッドマウントディスプレイ3で実行される連携アプリケーションプログラム110に、画像表示装置2のブランク表示部70によってどのような特徴を有するブランク領域BLが表示されるかが予め登録されており、ヘッドマウントディスプレイ3は、その特徴に基づいてブランク領域BLを検出するようにしても良い。また画像表示装置3のブランク表示部70は、ヘッドマントディスプレイ3からそのような特徴情報を取得し、ヘッドマントディスプレイ3で検出対象となる特徴を有するブランク領域BLを表示させるようにしても良い。
図6及び図7は、ブランク表示部70により画面PG内にブランク領域が表示される場合の表示態様の一例を示す図である。まず図6(a)に示すように、ブランク表示部70は、画面PG内において既に表示されているウィンドウW1と重畳しない領域にブランク領域BLを表示可能である。図例のように画面PG内の一部にウィンドウ画像D1やD2などを有する作業ウィンドウW1が既に表示されている場合に、ブランク表示部70は、画面PG内のウィンドウW1以外の領域、すなわちウィンドウW1と重畳しない領域内にブランク領域BLを生成する。これにより、作業アプリケーション60が起動中であり、ユーザーが作業を行っている場合に、作業内容などを示すウィンドウW1と重畳しない領域内にブランク領域BLを表示させることから、ウィンドウW1の視認性を良好に維持しながらブランク領域BLを表示可能となる。そして、ブランク表示部70によりブランク領域BLが表示されると、ヘッドマウントディスプレイ3は表示部1内のブランク領域BLに重ね合わせて視認できる位置に表示画像SDを表示させる。よって、ユーザーは、ウィンドウW1に含まれる画像D1、D2と重ならない状態で表示画像SDを視認可能である。
図6(b)は、図6(a)の場合とは異なる表示例を示す図である。図6(b)に示すように画像表示装置2において既に表示されている作業ウィンドウW1が全画面表示されている場合、或いは、全画面表示に近い状態で表示されている場合、作業ウィンドウW1の周囲にブランク領域BLを表示させるための十分な表示領域を確保することができない。そのような場合、ブランク表示部70は、図6(b)に示すように作業ウィンドウW1内において、画像D1,D2と重畳しない領域にブランク領域BLを表示させることが可能である。図例のようにウィンドウW1が略全画面表示である場合、ブランク表示部70は、ウィンドウW1内において画像D1,D2と重畳しない領域を検出し、その検出した領域にブランク領域BLを表示する。ユーザーはウィンドウW1内のウィンドウ画像D1やD2に注目するため、これらと重畳しない領域にブランク領域BLが表示されることにより、ウィンドウW1内の画像D1,D2の視認性を損なうことなく表示画像SDが表示される。
また作業ウィンドウW1が略全画面表示であるとき、その作業ウィンドウW1の内側の領域に画像D1,D2などと重畳させることなく、ブランク領域BLを表示させるための十分な表示領域を確保することができないこともある。そのような場合、ブランク表示部70は、作業ウィンドウW1に含まれる画像D1,D2と重なった状態でブランク領域BLを表示させざるを得ない。ただし、そのような場合でも、ブランク表示部70は、ブランク領域BLが作業ウィンドウW1に含まれる画像D1,D2と重なってしまう領域をなるべく低減することが好ましい。それ故、ブランク表示部70は、作業ウィンドウW1の内側に含まれる画像成分のうち、ブランク領域BLによって隠蔽される画像成分が最少となる領域を検知し、その検知した領域にブランク領域BLを表示可能である。例えば図7(a)に示すように、ウィンドウW1が画面PGの概ね全領域に亘って表示される場合に、ブランク表示部70は、ウィンドウW1に含まれる画像成分を検出し、ブランク領域BLを表示することにより隠蔽される画像成分が最も少ない領域を検出する。例えば、ブランク表示部70は、作業アプリケーション60bによって表示されるウィンドウW1に含まれる画像を解析し、文字や線図、カラー成分などの分布密度が最も小さい領域を検出することにより、ブランク領域BLによって隠蔽される画像成分が最小となる領域を特定する。ここで、ブランク表示部70は、隠蔽される画像成分が最少であり、しかも、ブランク領域BLを最大に表示可能な領域を検出するようにしてもよい。これにより、ウィンドウW1に含まれる画像D1,D2の視認性を損なう程度を最小限に抑えると共に、ブランク領域BLが小さくなりすぎることを回避することができる。
図7(b)は、画像表示装置2によって画面PG内に複数のウィンドウW1、W2、W3が表示されている例を示す図である。画面PG内に複数のウィンドウW1,W2,W3が表示されている場合、それら複数のウィンドウW1,W2,W3のうち、ユーザーによって選択された一のウィンドウがアクティブウィンドウとなっている。図例ではウィンドウW1がアクティブウィンドウに選択されている場合を例示している。このような場合、ブランク表示部70は、アクティブウィンドウであるウィンドウW1と重畳しない領域にブランク領域BLを表示可能である。ユーザーによりアクティブウィンドウとして選択された一のウィンドウは、ユーザーが注目する画像等が表示されている、或いはユーザーによる現在の作業に関連するウィンドウである。そこで、ブランク表示部70は、アクティブウィンドウ以外の領域を検出し、検出された領域内にブランク領域BLを表示する。これにより、ユーザーが現時点で注目しているウィンドウW1の視認性を損なうことなくブランク領域BLを表示可能となる。
ヘッドマウントディスプレイ3の機能構成について説明する。ヘッドマウントディスプレイ3は、図5に示すように、CPU50と、画像表示装置2との通信を制御する通信制御部53と、撮像部10と、表示部15と、記憶部55を備える。CPU50は、記憶部55に記憶される例えばメールアプリケーションプログラム112を実行することにより、メールアプリケーション93として機能する。このメールアプリケーション93は、電子メールを受信するアプリケーションである。また、画像表示装置2との通信を行う連携アプリケーションプログラム110を実行することにより、CPU50は連携アプリケーション90として機能する。連携アプリケーション90はさらに、入力受付部92と、画像表示装置2に対してブランク領域BLの表示を要求する要求部105と、撮像部10に撮影動作を行わせ、撮像部10で撮像された外景画像を取得する画像取得部94と、画像取得部94により取得された外景画像からブランク領域BLを検知部96と、表示部15において表示画像SDを表示する領域を特定する特定部98と、表示画像SDを生成する画像生成部101と、表示制御部103として機能する。
画像取得部94は、CPU50において連携アプリケーション90が起動すると、数ミリ秒程度の比較的短い時間間隔で撮像部10に繰り返し撮影動作を行わせ、撮像部10から外景画像を連続的に取得する。したがって、ヘッドマントディスプレイ3がユーザーの頭部に装着されている状態でユーザーの頭部の姿勢又は位置が変化すると、画像取得部94は、その変化後の外景画像をリアルタイムで取得することができる。
検知部96は、例えば要求部105によってブランク領域BLの表示要求が送信された後に機能し、画像表示装置2からブランク領域BLの特徴情報114を受信すると、それを記憶部55に一時的に保存して管理する。また連携アプリケーションプログラム110において特徴情報114が定義されている場合、検知部96は、連携アプリケーションプログラム110に定義されている特徴情報114を読み出し、それを記憶部55に一時的に保存して管理する。そして検知部96は、撮像部10で撮影された外景画像に基づき、ヘッドマウントディスプレイ3を装着したユーザーの視界方向におけるブランク領域BLの位置及びサイズを検知する。検知部96は、画像取得部94によって外景画像が取得される都度、その外景画像に含まれるブランク領域BLの位置及びサイズを検知する。検知部96は、外景画像に含まれるブランク領域BLの位置及びサイズを検知するとき、記憶部55に記憶されるブランク領域BLの特徴情報114を参照して、その特徴情報114に示されている特徴を有する領域をブランク領域BLとして検知する。
検知部96は、画像表示装置2においてブランク領域BLが表示される毎に特徴情報114を取得して記憶部55に記憶する。そのため、記憶部55には、複数のブランク領域BLのそれぞれに対応する複数の特徴情報114が記憶されることがある。検知部96は、記憶部55に複数の特徴情報114が記憶されている場合、それら複数の特徴情報114のそれぞれに定められた特徴に合致する領域を外景画像から抽出することにより、外景画像から複数のブランク領域BLを検出することも可能である。
特定部98は、検知部96により検知された外景画像におけるブランク領域BLの位置及びサイズに基づいて、ユーザーが表示部15を通してブランク領域BLを視認したときにブランク領域BLが表示部15を透過するブランク透過領域を検知し、そのブランク透過領域を画像表示領域として特定する処理部である。検知部96は、上述のように撮像部10により撮像された外景画像に基づいて、撮像部10から見た場合のブランク領域BLの位置、サイズを検知する。図3に示すようにユーザーの目の位置と撮像部10の位置とは異なっており、また撮像部10による撮影方向とユーザーの目の視線方向とは異なっている。そこで、特定部98は、検知部96により検知された外景画像におけるブランク領域BLの位置及びサイズを、表示部15に対する撮像部10の相対的な位置関係や撮像部10の撮影方向とユーザーの視線方向のずれ、さらには表示部15の位置に基づいて補正し、表示部15において表示画像SDを表示するための画像表示領域の位置及びサイズを特定する。例えば特定部98は、予め記憶部55に記憶される補正情報116に基づき、検知部96により検知された外景画像に含まれるブランク領域BLの位置及びサイズを、ユーザーが表示部15を通してブランク領域BLを見た場合に、ブランク領域BLを視認可能な表示部15内の位置及びサイズに変換する。補正情報116には、ユーザーがヘッドマウントディスプレイ3を装着したときのユーザーの視点位置、撮像部10の位置、表示部15の位置に関する情報が含まれる。これにより表示部15をブランク領域BLが透過する画像表示領域の位置及びサイズを演算により求めることが可能であり、その画像表示領域に表示画像SDを表示させることにより、ユーザーにはブランク領域BLの内側に表示画像SDが視認されるのである。このような特定部98による処理は、撮像部10によって新たな外景画像が撮影される度に行われるため、ヘッドマントディスプレイ3を装着しているユーザーの頭部の姿勢又は位置が変化すると、その変化後の画像表示領域をリアルタイムで検知することが可能である。
画像生成部101は、特定部98により特定された画像表示領域内に表示させる表示画像SDを生成する処理部である。画像生成部101は、特定部98によって特定された表示部15上の画像表示領域のサイズに応じて、表示対象である表示データの中から画像表示領域に表示させるデータ量を算出する。表示部15は、ユーザーの目から数cm程度離れた位置にあるため、画像表示装置2において表示されるブランク領域BLが表示部15を透過する部分として特定される画像表示領域のサイズは、ブランク領域BLよりもかなり小さいものとなる。そのようなサイズの小さい画像表示領域に、表示データに含まれる全ての情報を表示させてしまうと、文字サイズなどが著しく小さくなり、ユーザーにとって判読困難な事態が生じ得る。そのため、例えば表示対象である表示データにテキストデータが含まれる場合、画像生成部101は、特定部98によって特定された画像表示領域にテキストを表示するときの文字サイズが所定サイズ未満とならないようにする。すなわち、画像生成部101は、文字サイズを所定サイズに設定したときに、画像表示領域に表示可能なデータ量を表示データから抽出することにより、表示画像SDを生成する。これにより、表示画像SDが表示部15の画像表示領域に表示されたときに、ユーザーが文字を判読することができないといった不都合が生じることを未然に防ぐことができる。
表示制御部103は、画像生成部101により生成された表示画像SDを、特定部98によって特定された表示部15の画像表示領域内に表示させる処理部である。これにより、ユーザーは、画像表示装置2で表示されているブランク領域BLの内側に表示画像SDを視認することができる。このとき、画像表示装置2で表示されているブランク領域BLの内側には他の画像成分が存在しないため、ユーザーは、ブランク領域BLの内側において表示画像SDだけを視認することができるのである。
図8乃至図10は、ヘッドマウントディスプレイ3を装着したユーザーの頭部の姿勢又は位置が変化した場合に、表示部15における画像表示領域の変化態様の一例を示す図である。まず図8(a)に示すように、例えば画像表示装置2の表示部20で表示されているブランク領域BLが表示部20の画面PGの中央に表示されており、ユーザーがそのブランク領域BLを表示部20の正面から視認しているとする。このとき、撮像部10の画角中心線201を基準にすると、撮像部10によって撮影される外景画像には、図8(a)に示すように左方向にθ1、右方向にθ2の広がりを有する領域にブランク領域BLが検知される。このような外景画像に基づき、表示部15において表示画像SDを表示させるための画像表示領域を求めると、例えば図8(b)に示すように、表示部15の画面HGにおいてユーザーの視野中心線202を基準に左方向にθ1'、右方向にθ2'の広がりを有する領域が画像表示領域として算出される。したがって、表示画像SDは、そのような画像表示領域に表示される。
そのような状態から、例えば図9(a)に示すようにユーザーが頭部を矢印f1方向に頭部を回転させた場合、撮像部10によって撮影される外景画像は、図9(a)に示すように撮像部10の画角中心線201を基準にしたとき、左方向にθ3、右方向にθ4の広がりを有する領域にブランク領域BLを含む画像へと変化する。このとき、θ3<θ1となり、θ4>θ2となる。図9(a)のような外景画像に基づき、表示部15において表示画像SDを表示させるための画像表示領域を求めると、例えば図9(b)に示すように、表示部15の画面HGにおいてユーザーの視野中心線202を基準に左方向にθ3'、右方向にθ4'の広がりを有する領域が画像表示領域として算出される。したがって、表示画像SDは、そのような画像表示領域に表示され、ユーザーの頭部の姿勢変化に追従してブランク領域BLが表示部15を透過する位置に表示画像SDが表示されるようになる。尚、上記においては、ユーザーが頭部を左右方向に回転させる場合を例示したが、ユーザーが頭部を上下方向に俯仰させる場合も同様である。
次に図10(a)は、図8(a)に示す状態から、ヘッドマウントディスプレイ3を装着したユーザーが画像表示装置2から遠ざかる場合を例示している。ユーザーが画角中心線201を変化させることなく、頭部を矢印f3方向に移動させると、撮像部10によって撮影される外景画像は、図10(a)に示すように撮像部10の画角中心線201を基準にしたとき、左方向にθ5、右方向にθ6の広がりを有する領域にブランク領域BLを含む画像へと変化する。このとき、θ5<θ1となり、θ6<θ2となる。図10(a)のような外景画像に基づき、表示部15において表示画像SDを表示させるための画像表示領域を求めると、例えば図10(b)に示すように、表示部15の画面HGにおいてユーザーの視野中心線202を基準に左方向にθ5'、右方向にθ6'の広がりを有する領域が画像表示領域として算出される。したがって、表示画像SDは、そのような画像表示領域に表示され、ユーザーの頭部の移動に追従してブランク領域BLが表示部15を透過する位置に表示画像SDが表示されるようになる。尚、上記においては、ユーザーが頭部を画像表示装置2から遠ざける場合を例示したが、ユーザーが頭部を画像表示装置2に近づける場合も同様である。
ユーザーが頭部を画像表示装置2から遠ざけたり、或いは、画像表示装置2に近づけたりする場合は、表示部15における画像表示領域のサイズが変化する。そのため、表示部15に表示される表示画像SDに含まれるデータ量は、ヘッドマウントディスプレイ3と画像表示装置2との距離が変化することに伴い、リアルタイムに変化する。
図11及び12は、ユーザーの操作に応じてブランク領域BLの位置又はサイズを変化させる場合の一例を示す図である。画像表示装置2は、上述のとおりユーザーにより操作可能な操作部77を備える。また、画像表示装置2において起動される連携アプリケーション83は、ユーザーが操作部77に対する操作を行った場合に、操作部77から出力される操作情報を、出力切換部76を介して入力する入力受付部72を備えている。ブランク表示部70は、入力受付部72により受け付けられる操作情報に応じて、ブランク領域BLの位置又はサイズを変化させることが可能である。例えば、図11(a)に示すように、画像表示装置2において、表示部20の画面PG内の所定位置にブランク領域BL1が表示されているとする。このとき、図11(b)のようにユーザーが操作部77を操作してブランク領域BL1のサイズを大きくする操作を行うと、入力受付部72は、そのような操作に基づく操作情報を受け付ける。そして入力受付部72は、ブランク領域BL1のサイズを変更する操作であると判断すると、その操作情報をブランク表示部70へ出力する。これに応じてブランク表示部70は、操作情報に基づき、図11(b)に示すようにブランク領域BL1のサイズを変更し、新たなブランク領域BL2を表示部20に表示する。ユーザーによって行われる操作の例として、例えばマウス操作によって画面PG内に表示されるポインターPTでブランク領域BL1の一コーナーを捕捉してドラッグすることによりブランク領域BLのサイズを変更可能である。或いは、キーボード操作によりブランク領域BL1のサイズを入力してもよい。図11(b)に示すように、ユーザーによる操作部77の操作に応じてブランク表示部70がブランク領域BL1のサイズを変化させる場合、ウィンドウW1或いはウィンドウW1に含まれる画像D1、D2と重畳するようブランク領域BL2のサイズを変化させてもよい。この場合、ユーザーの操作に応じてブランク領域BL2のサイズを変化させるのであり、ユーザーにとって不都合はないからである。
また、ブランク表示部70は、入力受付部72により受け付けられた操作情報に応じてブランク領域BLを追加して表示可能である。図12(a)に示すように、ウィンドウW1が画面PGの全画面領域に亘って表示されているためにブランク領域BL1が比較的小さいサイズで表示されている場合に、例えばユーザーが画面PG内に表示されるポインターPTをブランク領域BL1に重ねてクリックすることにより、図12(b)に示すように、ブランク表示部70は新たなブランク領域BL3を表示させる。ブランク領域BL3の表示に伴い、ブランク表示部70は、ブランク領域BL1を画面PGから消去してもよいし、画面PGに継続して表示させてもよい。ブランク領域BL3はウィンドウW1やウィンドウW1内の画像D1、D2と重畳する領域に表示させてもよい。この場合、ユーザーは新たなブランク領域BL3を表示させ、そこに表示画像SDを表示させることを望んでいるため、ウィンドウW1やウィンドウ画像D1やD2の視認性よりもブランク領域BL3の表示を優先させるのである。
また入力受付部72は、出力先切換部76を介して入力する操作情報が、ブランク領域BLの近傍にメニューを表示させる指示である場合、メニュー表示部74を機能させると共に、メニュー表示部74に対して操作情報を出力する。メニュー表示部74は、表示部20に表示されているブランク領域BLの近傍にメニュー画面を表示させるものである。このメニュー画面には、ユーザーが選択可能な複数の選択項目が表示される。それら複数の選択項目の中には、操作情報の出力先をヘッドマウントディスプレイ3に切り換えることが可能な項目が含まれる。したがって、ユーザーは、マウス操作などを行うことによって、メニュー画面を表示させると共に、そのメニュー画面に含まれる複数の選択項目の中から操作情報の出力先をヘッドマウントディスプレイ3に切り換える項目を選択することにより、操作部77を操作することでヘッドマウントディスプレイ3に対する操作を行うことができるようになる。より詳しく説明すると、入力受付部72は、メニュー画面が表示されているときに出力先切換部76を介して入力する操作情報が、操作情報の出力先をヘッドマウントディスプレイ3に切り換えるものである場合、出力先切換部76に対して操作情報の出力の切り換えを指示する。これにより、出力先切換部76は、その後、操作部77から入力する操作情報の出力先をヘッドマウントディスプレイ3に切り換える。すなわち、出力先切換部76は、画像表示装置2において連携アプリケーション63が起動した時点の初期状態では、操作情報の出力先を入力受付部72に設定している。そして出力先切換部76は、入力受付部72から出力先の切り換え指示を入力することに伴い、操作部77から入力する操作情報を、通信制御部41を介してヘッドマウントディスプレイ3へ出力するように出力先を切り換える。尚、入力受付部72は、出力先切換部76に対して出力先の切り換え指示を行うことにより、メニュー表示部74に対してメニュー画面の削除を指示する。これにより、操作情報の出力先がヘッドマウントディスプレイ3に切り換えられることに伴い、ブランク領域BLの近傍に表示されているメニュー画面が消去される。
図13は、操作情報の出力先が画像表示装置2からヘッドマウントディスプレイ3に変更される場合の一例を示す図である。例えば出力先切換部76による操作情報の出力先が入力受付部72であるとき、入力受付部72は、出力先切換部76を介して入力する操作情報がメニュー画面を表示させる指示であれば、メニュー表示部74を機能させることにより、図13(a)に示すように、表示部20の画面PGに表示されているブランク領域BLの近傍位置にメニュー画面KSを表示させる。すなわち、メニュー表示部74は、操作情報の出力先を切り換える選択項目を含むメニュー画面KSを表示部20に表示させる。そして、ユーザーが操作部77を操作して、例えばポインターPTによりメニュー画面KSに含まれる複数の選択項目のうち、操作情報の出力先を切り換える項目を選択すると、その操作情報が入力受付部72に受け付けられ、入力受付部72は出力先切換部76に操作情報の出力先の切り換えを指示する。そして、出力先切換部76は入力受付部72からの指示に基づき、操作部77から出力される操作情報の出力先をヘッドマウントディスプレイ3に切り換える。そして、出力先切換部76は、出力先をヘッドマウントディスプレイ3に設定している間、操作部77から出力される操作情報を、通信制御部41を経由してヘッドマウントディスプレイ3に出力する。
ヘッドマウントディスプレイ3は、画像表示装置2から受信する操作情報を受け付ける入力受付部92を備える。この入力受付部92は、画像表示装置2から受信した操作情報を受け付けると、その操作情報を画像生成部101へ出力する。画像生成部101は、入力受付部92により受け付けられる操作情報に基づき、ブランク領域BLが表示部15を透過する領域に表示している表示画像SDを更新する。すなわち、上述したように表示部15において表示画像SDを表示するときには、文字サイズが所定サイズに設定されるため、表示対象である表示データの一部だけが表示画像SDとして表示され、他の部分が非表示になっていることがある。そのような場合、ユーザーにとっては、表示画像SDにおいて表示されていない部分を、スクロール操作などによって確認したいことがある。そのため、画像生成部101は、画像表示装置2から操作情報を取得すると、まず図13(b)に示すように、表示画像SDの周囲にスクロールバーなどのユーザーが操作可能な操作画像UDを付加すると共に、ポインターPTを任意の位置に表示させることにより、表示部15に表示している表示画像SDを更新する。その後、画像生成部101は、画像表示装置2から受信する操作情報に基づき、操作画像UDに対するスクロール操作であることを検知すると、表示対象である表示データから、ユーザーのスクロール操作の操作方向及び操作量に応じて表示画像SDとして表示すべきデータを抽出し、その抽出したデータに基づいて表示画像SDを新たに生成する。そして画像生成部101は、そのようにして生成する表示画像SDを表示制御部103へ逐次出力することにより、表示部15に表示される表示画像SDをユーザーの操作に応じて逐次更新する。
これにより、ユーザーがヘッドマウントディスプレイ3を介して視認する画像は、図13(c)に示すような画像となる。すなわち図13(c)に示すように、ヘッドマウントディスプレイ3の表示部15の画面HGにおいて表示されている表示画像SDは、操作部77の操作に応じた入力に応じて変化する。例えばユーザーが、マウス操作などを行うことにより、ポインターPTを移動させてスクロールバーのつまみを下方へドラッグする操作を行うと、画像生成部101はこれに応じて下方向にスクロールした表示画像SDを新たに生成する。そして表示制御部103はその表示画像SDを画像生成部101から取得し、その表示画像SDを表示部15においてブランク領域BLが透過する部分に表示させる。これにより、ユーザーの操作に応じて表示画像SDがスクロールするように表示されるので、ユーザーは自身の操作で表示対象である表示データに含まれる全てのデータの中身を確認することができるようになる。
また画像生成部101は、画像表示装置2から受信する操作情報がメニュー画面を表示させる指示である場合には、画像表示装置2で表示されるメニュー画面KSと同様のメニュー画面を生成して表示部15に表示させることができる。そのメニュー画面には、ユーザーが選択可能な複数の選択項目の中に、操作情報の出力先を画像表示装置2へ切り換える項目が含まれる。そのため、ユーザーが表示部15にメニュー画面を表示させて操作情報の出力先を画像表示装置2へ切り換える項目を選択すると、入力受付部92は、画像表示装置2の出力先切換部76に対して操作情報の出力先の切換を指示する。これにより、操作部77から出力される操作情報を再び画像表示装置2へ出力させることが可能となり、連携アプリケーション63に、ユーザーの指示操作に基づく処理を行わせることができるようになる。
次に画像表示システム1の画像表示装置2及びヘッドマウントディスプレイ3のそれぞれで行われる具体的な処理手順について説明する。
まず、図14は、画像表示装置2において行われる主たる処理手順の一例を示すフローチャートである。画像表示装置2は例えば電源投入に伴ってオペレーティングシステムが起動すると連携アプリケーションプログラム81を読み出して実行する。これにより、画像表示装置2において連携アプリケーション63が起動する。そして画像表示装置2の起動中、連携アプリケーション63は、CPU40において起動された状態で常駐する。図14に示す処理手順は、その連携アプリケーション63によって行われる処理である。まず、画像表示装置2において起動された連携アプリケーション63は、ヘッドマウントディスプレイ3からペアリング要求を受信する(ステップS1)。ペアリング要求を受信すると、ペアリング承認をヘッドマウントディスプレイ3に対して送信し(ステップS2)、ペアリング処理を行ってペアリングを完了させる(ステップS3)。これにより、画像表示装置2とヘッドマウントディスプレイ3とは互いに通信可能な状態となる。
次に、画像表示装置2は、ヘッドマウントディスプレイ3からプランク領域を表示するよう表示要求を受信したか否かを判定し(ステップS5)、表示要求を受信したと判定した場合(ステップS5でYES)、ブランク領域BLを表示するブランク表示処理を行う(ステップS7)。ブランク表示処理の具体的な処理手順については後述する。ブランク領域の表示要求を受信していないと判定した場合(ステップS5でNO)、ステップS7をスキップする。次に、画像表示装置2は、ユーザーの操作に基づき操作情報の出力先を切り換える所定の操作が検知されたか否かを判定し(ステップS8)、所定の操作が検知されたと判定すると(ステップS8でYES)、操作情報の出力先をヘッドマウントディスプレイ3に切り換える(ステップS10)。他方、所定の操作が検知されていないと判定すると(ステップS8でNO)、ステップS10をスキップする。
さらに、画像表示装置2は、ヘッドマウントディスプレイ3から出力先の切換要求を受信したか否かを判定し(ステップS12)、切換要求を受信したと判定する場合(ステップS12でYES)、操作入力の出力先をヘッドマウントディスプレイ3から画像表示装置2に切り換える(ステップS14)。次に、画像表示装置2は、ブランク領域BLのサイズ変更や新たなブランク領域を表示させる操作入力を検知したか否かを判定し(ステップS16)、検知したと判定する場合(ステップS16でYES)、ブランク領域BLのサイズを変更し、或いは新たなブランク領域BLを表示させる(ステップS18)。ステップS16で操作入力を検知していないと判定した場合(ステップS16でNO)、ステップS18をスキップする。
そして、ヘッドマウントディスプレイ3からブランク領域を消去させる消去要求を受信したか否かを判定し(ステップS20)、受信したと判定した場合(ステップS20でYES)、ブランク領域BLを表示部20から消去する(ステップS22)。他方、消去要求を受信していないと判定した場合(ステップS20でNO)、ステップS22をスキップする。最後に、連携アプリケーション63の終了タイミングであるか否かを判定し(ステップS24)、終了タイミングであると判定した場合(ステップS24でYES)、画像処理装置2は処理を終了し、終了タイミングでないと判定した場合(ステップS24でNO)、ステップS5に戻り、連携アプリケーション終了まで以下の処理手順を繰り返す。
次に図15は、ブランク表示処理(図14のステップS7)の具体的な処理手順の一例を示すフローチャートである。まず、画像表示装置2は、画面PG内にウィンドウが表示中であるか否かを判定し(ステップS32)、ウィンドウが表示中であると判定した場合(ステップS32でYES)、さらに表示中のウィンドウが複数であるか否かを判定する(ステップS34)。ウィンドウが複数であると判定した場合(ステップS34でYES)、これら複数のウィンドウのうちユーザーによりアクティブウィンドウに選択されているウィンドウをさらに検知する(ステップS36)。そして、画面PG内のアクティブウィンドウが表示されていない領域を検出する(ステップS38)。他方、ステップS34で表示中のウィンドウが1つであると判定した場合(ステップS34でNO)、画面PG内においてこのウィンドウが表示されていない領域を検出する(ステップS40)。
画像表示装置2は、ウィンドウが表示されていない領域を検出すると、次に、ウィンドウが表示されていない領域内にブランク領域BLを表示可能か否かを判定し(ステップS42)、表示可能であればブランク領域BLを画面PG内に表示させる(ステップS44)。他方、ブランク領域BLをウィンドウが表示されていない領域内に表示可能でないと判定した場合(ステップS42でNO)、ウィンドウ内に含まれる画像との重なりが最小で、且つブランク領域BLを最大に表示可能な領域を検出した上で(ステップS46)、ブランク領域BLを表示する(ステップS44)。ブランク領域BLを表示すると、最後に特徴情報114を画像表示装置2に送信して処理を終了する(ステップS48)。
次に、ヘッドマウントディスプレイ3において行われる処理手順の一例を説明する。図16は、ヘッドマウントディスプレイ3において行われる主な処理手順の一例を示すフローチャートである。ヘッドマウントディスプレイ3は起動すると連携アプリケーションプログラム110を実行し、ヘッドマウントディスプレイ3が起動している間、連携アプリケーション90をCPU50に常駐させる。図16に示す処理手順は、その連携アプリケーション90によって行われる処理である。

まず、ヘッドマウントディスプレイ3は画像表示装置2にペアリング要求を送信し(ステップS100)、画像表示装置2からペアリングの承認を受信して(ステップS102)からペアリング処理を完了させる(ステップS104)。
そして、表示データをネットワーク経由で受信したか否かを判定する(ステップS106)。例えば、ヘッドマウントディスプレイ3において起動しているメールアプリケーション93が電子メールを受信すると、連携アプリケーション90に対して受信した電子メールを表示データとして出力する。この場合、連携アプリケーション90は、メールアプリケーション93が電子メールを受信することに伴い、表示部15への表示対象となる表示データを取得する。なお、これに限られるものではなく、連携アプリケーション90は、表示データを無線通信により画像表示装置2から受信するものであってもよい。またこの他、連携アプリケーション90は、ヘッドマウントディスプレイ3に予め記憶される表示データを読み出すことにより、表示データを取得するものであってもよい。
表示データを受信したと判定した場合(ステップS106でYES)、連携アプリケーション90は、画像表示装置2に対してブランク領域BLを表示するよう表示要求を送信する(ステップS108)。他方、表示データを受信しなかったと判定した場合(ステップS106でNO)にはステップS108をスキップし、さらに表示部15に表示画像SDを表示中であるか否かを判定し(ステップS110)、表示中である場合(ステップS110でYES)、ステップS112を行う。表示画像表示処理(ステップS112)の具体的処理手順については後述する。
次に、連携アプリケーション90は、画像表示装置2から操作部77の操作に基づく操作情報を受信したか否かを判定し(ステップS114)、操作情報を受信したと判定した場合(ステップS114でYES)、操作情報の入力を受け付けて処理を行う入力受付処理を実行する(ステップS116)。入力受付処理の具体的な処理手順については後述する。
さらに、連携アプリケーション90は、表示画像を表示部15から消去させる指示を検知したか否かを判定し(ステップS118)、検知したと判定した場合(ステップS118でYES)には表示画像SDを消去する(ステップS120)。そして画像表示装置2に対してブランク領域BLを表示部20の画面PGから消去するよう消去要求を送信する(ステップS122)。ステップS118において表示画像を消去させる指示を検知しなかったと判定した場合(ステップS118でNO)、ステップS120及びS122をスキップする。最後に、ヘッドマウントディスプレイ3を終了させる指示を検知したか否かを判定し(ステップS124)、終了させる指示を検知したと判定した場合(ステップS124でYES)、ヘッドマウントディスプレイ3は終了処理を行って処理を終了する。他方、終了させる指示を検知しなかったと判定した場合(ステップS124でNO)、ステップS106に戻り、ヘッドマウントディスプレイ3が終了するまで以下の処理を繰り返し実行する。
図17は、表示画像表示処理(図16のステップS112)の具体的な処理手順の一例を示すフローチャートである。まず、連携アプリケーション90は、撮像部10による撮像処理を行う(ステップS140)。次に、特徴情報114を既に画像表示装置2から取得済みか否かを判定し(ステップS142)、取得済みでないと判定した場合(ステップS142でNO)、特徴情報114を取得するまで待機する。なお、図例とは異なり、予め記憶部55に特徴情報114を記憶していてもよい。この場合、ステップS142を実行しない。
特徴情報114を取得済みであると判定した場合(ステップS142でYES)、連携アプリケーション90は、特徴情報114を参照して(ステップS144)撮像部10により撮像された外景画像からブランク領域BLを検知したか否かを判定する(ステップS146)。ブランク領域BLを検知しなかったと判定した場合(ステップS146でNO)、ブランク領域BLを検知するまで処理を待機する。他方、ブランク領域BLを検知したと判定した場合(ステップS146でYES)、ブランク領域BLの位置及びサイズを算出する(ステップS148)。そして、算出したブランク領域BLの位置及びサイズから表示画像を表示させる画像表示領域の位置及びサイズを算出する(ステップS149)。例えば記憶部55に予め記憶される補正情報116に基づいて算出する。
画像表示領域の位置及びサイズを算出すると、連携アプリケーション90は、次に表示データから画像表示領域のサイズに応じたデータを抽出し、表示画像SDを生成する(ステップS150)。表示画像SDを生成すると、生成した表示画像SDを表示部15の画面HGに表示させて処理を終了する。
図18は、入力受付処理(図18のステップS116)の具体的な処理手順の一例を示すフローチャートである。まず、画像表示装置2から受信した操作情報が出力先の切換を指示する操作情報か否かを判定し(ステップS160)、出力先切換を指示する操作情報であると判定した場合(ステップS160でYES)、画像表示装置2に対し、操作部77の操作情報の出力先を画像表示装置2に切り換えるよう切換要求を送信して(ステップS162)処理を終了する。
他方、出力先切換を指示する操作情報でないと判定した場合(ステップS160でNO)、連携アプリケーション90は、その操作情報に応じて画像表示領域に表示させる表示画像SDに対応する表示データを抽出して(ステップS164)、抽出した表示データに基づいて表示画像SDを生成して(ステップS166)処理を終了させる。
以上のように本実施形態の画像処理装置2は、表示部20の画面PG内に画像成分の存在しないブランク領域BLを表示させる。ブランク領域BLが表示されると、ヘッドマウントディスプレイ3は、透過型の表示部15からブランク領域BLを視認できる領域に表示画像を表示させる。このような構成によれば、ユーザーは画像表示装置2においてウィンドウを表示させるなどにより作業を行いながら、ヘッドマウントディスプレイ3の表示部15に表示画像SDを表示させて必要な情報等を取得することができるようになる。
以上、本発明に関する一実施形態について説明したが、本発明は上述した実施形態に説明したものに限定されるものではなく、種々の変形例が適用可能である。
例えば上記実施形態では、主としてヘッドマウントディスプレイ3を装着したユーザーの両眼に表示画像SDを視認させるよう表示画像SDを表示部15に表示する場合を例示したが、本発明はこれに限られるものではなく、左右いずれか片眼に対してのみ表示画像SDが視認できるよう表示画像SDを表示部15に表示させてもよい。
1 画像表示システム
2 画像表示装置
3 ヘッドマウントディスプレイ(頭部装着型表示装置)
10 撮像部(撮像手段)
55 記憶部(記憶手段)
70 ブランク表示部(ブランク表示手段)
72 入力受付部(第1入力受付手段)
76 出力先切換部(出力先切換手段)
77 操作部(操作手段)
92 入力受付部(第2入力受付手段)
96 検知部(検知手段)
98 特定部(特定手段)
101 画像生成部(画像生成手段)
103 表示制御部(表示制御手段)
114 特徴情報

Claims (22)

  1. 透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と、前記頭部装着型表示装置と通信可能な画像表示装置とを備える画像表示システムであって、
    前記画像表示装置は、
    画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段、
    を備え、
    前記頭部装着型表示装置は、
    前記頭部装着型表示装置を装着したユーザーの視界方向における前記ブランク領域の位置及びサイズを検知する検知手段と、
    前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段と、
    前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段と、
    前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段と、
    を備えることを特徴とする画像表示システム。
  2. 前記頭部装着型表示装置は、
    ユーザーの視界方向の外景画像を撮像する撮像手段と、
    前記ブランク領域の特徴情報を記憶する記憶手段と、
    をさらに備え、
    前記検知手段は、前記記憶手段に記憶される前記特徴情報を参照して、前記撮像手段により撮像された前記外景画像から前記ブランク領域の位置及びサイズを検知することを特徴とする請求項1に記載の画像表示システム。
  3. 前記特定手段は、前記検知手段により検知された前記ブランク領域の位置及びサイズを、前記表示手段に対する前記撮像手段の相対的な位置関係に基づいて補正し、前記画像表示領域の位置及びサイズを特定することを特徴とする請求項2に記載の画像表示システム。
  4. 前記頭部装着型表示装置は、
    前記画像表示装置に対して前記ブランク領域の表示要求を送信する表示要求手段、
    をさらに備え、
    前記ブランク表示手段は、前記頭部装着型表示装置から前記表示要求を受信すると、前記ブランク領域を表示することを特徴とする請求項2又は3に記載の画像表示システム。
  5. 前記ブランク表示手段は、前記ブランク領域を表示すると、前記頭部装着型表示装置に対して前記特徴情報を送信することを特徴とする請求項2乃至4のいずれかに記載の画像表示システム。
  6. 前記画像表示装置は、
    ユーザーにより操作可能な操作手段と、
    前記操作手段に対する操作に応じて行われる入力を受け付ける第1入力受付手段と、
    をさらに備え、
    前記ブランク表示手段は、前記第1入力受付手段により受け付けられた所定の入力に応じて、前記ブランク領域の位置又はサイズを変更、若しくは新たなブランク領域を追加可能であることを特徴とする請求項1乃至5のいずれかに記載の画像表示システム。
  7. 前記画像表示装置は、
    前記操作手段の操作に応じて行われる入力の出力先を前記画像表示装置又は前記頭部装着型表示装置のいずれかに切り換える出力先切換手段、
    をさらに備え、
    前記第1入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記画像表示装置から前記頭部装着型表示装置に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力し、
    前記頭部装着型表示装置は、
    前記画像表示装置から受信した前記操作手段の操作に基づく入力を受け付ける第2入力受付手段、
    をさらに備え、
    前記画像生成手段は、前記第2入力受付手段により受け付けられた前記操作手段の操作に基づく入力に応じて前記表示画像を変化させることを特徴とする請求項6に記載の画像表示システム。
  8. 前記画像表示装置は、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、
    前記ブランク表示手段は、前記画像表示画面内における前記ウィンドウ表示画像と重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項1乃至7のいずれかに記載の画像表示システム。
  9. 前記画像表示装置は、前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、
    前記ブランク表示手段は、前記ウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項1乃至7のいずれかに記載の画像表示システム。
  10. 前記画像表示装置は、前記画像表示画面内に複数のウィンドウを表示可能であり、前記複数のウィンドウのうちユーザーにより選択された一のウィンドウをアクティブウィンドウとし、
    前記ブランク表示手段は、前記アクティブウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項1乃至7のいずれかに記載の画像表示システム。
  11. 前記画像表示装置は、前記画像表示画面内にウィンドウ画像を有するウィンドウを表示可能であり、
    前記ブランク表示手段は、前記ウィンドウ画像の画像成分のうち隠蔽される画像成分が最少となる領域に前記ブランク領域を表示することを特徴とする請求項1乃至7のいずれかに記載の画像表示システム。
  12. 透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と通信可能な画像表示装置であって、
    画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段を備えることを特徴とする画像表示装置。
  13. ユーザーにより操作可能な操作手段と、
    前記操作手段に対する操作に応じて行われる入力を受け付ける入力受付手段と、
    前記操作手段の操作に応じて行われる入力の出力先を切り換える出力先切換手段と、
    をさらに備え、
    前記入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記頭部装着型表示手段に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力することを特徴とする請求項12に記載の画像表示装置。
  14. 前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、
    前記ブランク表示手段は、前記画像表示画面内における前記ウィンドウ表示画像と重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項12又は13に記載の画像表示装置。
  15. 前記画像表示画面内にウィンドウ表示画像を有するウィンドウを表示可能であり、
    前記ブランク表示手段は、前記ウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項12又は13に記載の画像表示装置。
  16. 前記画像表示画面内に複数のウィンドウを表示可能であり、前記複数のウィンドウのうちユーザーにより選択された一のウィンドウをアクティブウィンドウとし、
    前記ブランク表示手段は、前記アクティブウィンドウと重畳しない領域内に前記ブランク領域を表示することを特徴とする請求項12又は13に記載の画像表示装置。
  17. 透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置であって、
    ユーザーにより装着された状態でユーザーの視界方向において、前記頭部装着型表示装置と通信可能な画像表示装置の画像表示画面内に表示される画像成分の存在しないブランク領域の位置及びサイズを検知する検知手段と、
    前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段と、
    前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段と、
    前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段と、
    を備えることを特徴とする頭部装着型表示装置。
  18. ユーザーの視界方向の外景画像を撮像する撮像手段と、
    前記ブランク領域の特徴情報を記憶する記憶手段と、
    をさらに備え、
    前記検知手段は、前記記憶手段に記憶される前記特徴情報を参照して、前記撮像手段により撮像された前記外景画像から前記ブランク領域の位置及びサイズを検知することを特徴とする請求項17に記載の頭部装着型表示装置。
  19. 前記特定手段は、前記検知手段により検知された前記ブランク領域の位置及びサイズを、前記表示手段に対する前記撮像手段の相対的な位置関係に基づいて補正し、前記画像表示領域の位置及びサイズを特定することを特徴とする請求項18に記載の頭部装着型表示装置。
  20. 透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置と通信可能な画像表示装置において実行されるプログラムであって、前記画像表示装置を、
    画像表示画面内の少なくとも一部に、画像成分の存在しないブランク領域を表示するブランク表示手段、
    として機能させることを特徴とするプログラム。
  21. 前記画像表示装置を、
    ユーザーにより操作可能な操作手段に対する操作に応じて行われる入力を受け付ける入力受付手段、
    前記操作手段の操作に応じて行われる入力の出力先を前記画像表示装置又は前記頭部装着型表示装置のいずれかに切り換える出力先切換手段、
    としてさらに機能させ、
    前記入力受付手段は、前記出力先切換手段により前記操作手段の操作に応じて行われる入力の出力先が前記画像表示装置から前記頭部装着型表示装置に切り換えられた場合に、前記操作手段の操作に基づく入力を受け付けると前記頭部装着型表示装置に対して出力することを特徴とする請求項20に記載のプログラム。
  22. 透過型の表示手段を有し、前記表示手段に表示される画像と前記表示手段を透過する外景とを同時に視認可能な頭部装着型表示装置において実行されるプログラムであって、前記頭部装着型表示装置を、
    ユーザーにより装着された状態でユーザーの視界方向において、前記頭部装着型表示装置と通信可能な画像表示装置の画像表示画面内に表示される画像成分の存在しないブランク領域の位置及びサイズを検知する検知手段、
    前記検知手段により検知された前記ブランク領域の位置及びサイズに基づいて、ユーザーが前記表示手段を通して前記ブランク領域を視認可能な前記表示手段の画像表示領域を特定する特定手段、
    前記特定手段により特定された前記画像表示領域内に表示させる表示画像を生成する画像生成手段、及び、
    前記画像生成手段により生成された前記表示画像を前記表示手段の前記画像表示領域内に表示させる表示制御手段、
    として機能させることを特徴とするプログラム。
JP2015123848A 2015-06-19 2015-06-19 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム Active JP6610022B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015123848A JP6610022B2 (ja) 2015-06-19 2015-06-19 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015123848A JP6610022B2 (ja) 2015-06-19 2015-06-19 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2017009741A true JP2017009741A (ja) 2017-01-12
JP6610022B2 JP6610022B2 (ja) 2019-11-27

Family

ID=57761444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015123848A Active JP6610022B2 (ja) 2015-06-19 2015-06-19 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム

Country Status (1)

Country Link
JP (1) JP6610022B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020087190A (ja) * 2018-11-29 2020-06-04 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
WO2020184316A1 (ja) * 2019-03-13 2020-09-17 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
CN113988649A (zh) * 2021-10-30 2022-01-28 深圳曦华科技有限公司 显示屏的显示功能测试方法及相关装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282439A (ja) * 2003-03-17 2004-10-07 Kyocera Mita Corp 画像形成装置
JP2006277239A (ja) * 2005-03-29 2006-10-12 Canon Inc 電子文書閲覧管理システム
JP2010134216A (ja) * 2008-12-05 2010-06-17 Nikon Systems Inc 画像表示装置及び画像表示装置を有するデジタルカメラ
JP2010151997A (ja) * 2008-12-24 2010-07-08 Brother Ind Ltd プレゼンテーションシステム及びそのプログラム
JP2012121179A (ja) * 2010-12-06 2012-06-28 Sharp Corp 画像形成装置、及び表示制御方法
JP2012233962A (ja) * 2011-04-28 2012-11-29 Konica Minolta Holdings Inc 投影システム、投影装置、投影方法、および制御プログラム
JP2015014977A (ja) * 2013-07-08 2015-01-22 コニカミノルタ株式会社 画像処理システム、画像形成装置、表示装置、表示方法、および制御プログラム
US20150062158A1 (en) * 2013-08-28 2015-03-05 Qualcomm Incorporated Integration of head mounted displays with public display devices

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282439A (ja) * 2003-03-17 2004-10-07 Kyocera Mita Corp 画像形成装置
JP2006277239A (ja) * 2005-03-29 2006-10-12 Canon Inc 電子文書閲覧管理システム
JP2010134216A (ja) * 2008-12-05 2010-06-17 Nikon Systems Inc 画像表示装置及び画像表示装置を有するデジタルカメラ
JP2010151997A (ja) * 2008-12-24 2010-07-08 Brother Ind Ltd プレゼンテーションシステム及びそのプログラム
JP2012121179A (ja) * 2010-12-06 2012-06-28 Sharp Corp 画像形成装置、及び表示制御方法
JP2012233962A (ja) * 2011-04-28 2012-11-29 Konica Minolta Holdings Inc 投影システム、投影装置、投影方法、および制御プログラム
JP2015014977A (ja) * 2013-07-08 2015-01-22 コニカミノルタ株式会社 画像処理システム、画像形成装置、表示装置、表示方法、および制御プログラム
US20150062158A1 (en) * 2013-08-28 2015-03-05 Qualcomm Incorporated Integration of head mounted displays with public display devices

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020087190A (ja) * 2018-11-29 2020-06-04 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
JP7138028B2 (ja) 2018-11-29 2022-09-15 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
JP7453300B2 (ja) 2018-11-29 2024-03-19 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
WO2020184316A1 (ja) * 2019-03-13 2020-09-17 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
CN113988649A (zh) * 2021-10-30 2022-01-28 深圳曦华科技有限公司 显示屏的显示功能测试方法及相关装置
CN113988649B (zh) * 2021-10-30 2023-04-18 深圳曦华科技有限公司 显示屏的显示功能测试方法及相关装置

Also Published As

Publication number Publication date
JP6610022B2 (ja) 2019-11-27

Similar Documents

Publication Publication Date Title
US10591729B2 (en) Wearable device
US10198870B2 (en) Information processing apparatus, information processing system, and information processing method
US10495878B2 (en) Mobile terminal and controlling method thereof
JP4679661B1 (ja) 情報提示装置、情報提示方法及びプログラム
US10642348B2 (en) Display device and image display method
WO2012023581A1 (ja) 画像表示システム、画像表示システムに含まれる携帯型情報処理装置のためのコンピュータプログラム、及び画像表示方法
JP2008040832A (ja) 複合現実感提示システム及びその制御方法
JP6899875B2 (ja) 情報処理装置、映像表示システム、情報処理装置の制御方法、及びプログラム
JP5360021B2 (ja) 携帯型情報処理装置、及び携帯型情報処理装置のためのコンピュータプログラム
JP6399692B2 (ja) ヘッドマウントディスプレイ、画像表示方法及びプログラム
US20180103284A1 (en) Method for providing content using a head-mounted device, system for executing the method, and content display device
JP2016024751A (ja) 画像表示装置
JP6610022B2 (ja) 画像表示システム、画像表示装置、頭部装着型表示装置及びプログラム
KR20170059760A (ko) 이동단말기 및 그 제어방법
KR20190067523A (ko) 글래스 타입 단말기 및 그것의 동작방법
CN114648623A (zh) 信息处理装置、信息处理方法以及计算机可读介质
US9406136B2 (en) Information processing device, information processing method and storage medium for identifying communication counterpart based on image including person
WO2015111655A1 (ja) ヘッドマウントディスプレイ装置
CN105676458A (zh) 可穿戴计算装置及其控制方法以及具有它的可穿戴设备
JP7252398B2 (ja) 仮想オブジェクト操作方法およびヘッドマウントディスプレイ
US11275547B2 (en) Display system, display method, and program
KR20180013790A (ko) 정보 처리 시스템, 조작 방법 및 조작 프로그램
JP7077405B2 (ja) ヘッドマウントディスプレイおよび設定方法
JP5907034B2 (ja) 作業補助システムおよびプログラム
WO2020031493A1 (ja) 端末装置および端末装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191014

R150 Certificate of patent or registration of utility model

Ref document number: 6610022

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150