JP2016031373A - 表示装置、表示方法、表示システム、及び、プログラム - Google Patents
表示装置、表示方法、表示システム、及び、プログラム Download PDFInfo
- Publication number
- JP2016031373A JP2016031373A JP2014151944A JP2014151944A JP2016031373A JP 2016031373 A JP2016031373 A JP 2016031373A JP 2014151944 A JP2014151944 A JP 2014151944A JP 2014151944 A JP2014151944 A JP 2014151944A JP 2016031373 A JP2016031373 A JP 2016031373A
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- unit
- data
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】外部表示装置が表示する表示画像の視認性を向上させることができる表示装置を提供する。【解決手段】頭部装着型表示装置100は、透過型の表示装置であって、使用者に画像を視認させるとともに外景を透過する画像表示部20と、プロジェクター200が表示する表示画像のデータを取得するデータ取得部DAと、画像表示部20を通して表示画像を視認可能なときに、データ取得部DAが取得したデータに基づき、表示画像の少なくとも一部を画像表示部20により表示する制御部140と、を備える。【選択図】図2
Description
本発明は、表示装置、表示方法、表示システム、及び、プログラムに関する。
従来、表示装置において、ホログラフィック素子やハーフミラー等を用いて画像をユーザーに表示し、ユーザーに外景がシースルーで見える構成を有するものが知られている(例えば、特許文献1参照)。例えば、特許文献1に記載された光学透過型のHMD(ヘッドマウントディスプレイ)を装着したユーザーは、HMDを通してテレビモニター等の外部表示装置に表示された映像も見ることができる。
上記従来の表示装置によれば、特許文献1のテレビモニターや、スクリーンに画像を投射して表示するプロジェクター等の外部の装置が表示する表示画像を見ることができる。特許文献1の構成では、テレビモニターとHMDを組み合わせて立体映像の表現を図っているが、立体映像に限らない活用法が望まれていた。すなわち、外部の装置の表示画像をシースルーで見ることが可能な表示装置を、外部の装置とともに使用する新たな活用に対する要求があった。
本発明は、上述した事情に鑑みてなされたものであり、外部表示装置が表示する表示画像とともに視認できるように画像を表示し、外部表示装置の表示画像の見え方の向上に寄与する表示装置、表示方法、表示システム、及び、プログラムを提供することを目的とする。
本発明は、上述した事情に鑑みてなされたものであり、外部表示装置が表示する表示画像とともに視認できるように画像を表示し、外部表示装置の表示画像の見え方の向上に寄与する表示装置、表示方法、表示システム、及び、プログラムを提供することを目的とする。
上記目的を達成するために、本発明は、透過型の表示装置であって、使用者に画像を視認させるとともに外景を透過する表示部と、外部表示装置が表示する表示画像のデータを取得するデータ取得部と、前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、を備えることを特徴とする。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
また本発明は、上記表示装置において、前記外部表示装置が表示する表示画像における補完対象領域を検出する検出部を備え、前記制御部は、前記データ取得部が取得した前記データから、前記検出部が検出した前記補完対象領域に対応する対応領域のデータを抽出するデータ抽出部と、前記画像処理部により抽出された前記対応領域のデータに基づく画像を、前記表示部により、前記補完対象領域に対応する表示位置に表示させる表示制御部と、を備えること、を特徴とする。
この構成によれば、外部表示装置が表示する表示画像に補完対象領域がある場合に、補完対象領域に対応する対応領域のデータに基づく画像を表示部により、補完対象領域に対応する表示位置に表示させることができる。このため、例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像における補完対象領域に対応する画像を表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
この構成によれば、外部表示装置が表示する表示画像に補完対象領域がある場合に、補完対象領域に対応する対応領域のデータに基づく画像を表示部により、補完対象領域に対応する表示位置に表示させることができる。このため、例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像における補完対象領域に対応する画像を表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
また本発明は、上記表示装置において、前記表示制御部は、前記対応領域のデータに基づく画像を、前記検出部が検出した前記補完対象領域の少なくとも一部に重なるように前記表示部に表示させること、を特徴とする。
この構成によれば、表示画像における補完対象領域に対応する画像を補完対象領域の少なくとも一部に重ねて表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
この構成によれば、表示画像における補完対象領域に対応する画像を補完対象領域の少なくとも一部に重ねて表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
また本発明は、上記表示装置において、前記データ抽出部は、前記補完対象領域を含む前記対応領域のデータを抽出し、前記表示制御部は、前記対応領域のデータに基づく画像を、前記検出部が検出した前記補完対象領域に重なるように前記表示部に表示させること、を特徴とする。
この構成によれば、表示画像における補完対象領域に対応する画像を補完対象領域の全体に重なるように表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
この構成によれば、表示画像における補完対象領域に対応する画像を補完対象領域の全体に重なるように表示部に表示して視認可能とすることができる。このように、外部表示装置が表示する表示画像の視認性を向上させることができる。
また本発明は、上記表示装置において、前記検出部は、前記外部表示装置が投射対象物に画像光を投射するプロジェクターである場合に、前記投射対象物以外の物体の影響で前記プロジェクターの投射画像が変化した領域を前記補完対象領域として検出すること、を特徴とする。
この構成によれば、プロジェクターの投射画像の補完対象領域を表示部によっても表示することができる。このため、例えば、プロジェクターの投射画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、投射画像における補完対象領域に対応する画像を表示部に表示して視認可能とすることができる。このように、プロジェクターの投射画像の視認性を向上させることができる。
この構成によれば、プロジェクターの投射画像の補完対象領域を表示部によっても表示することができる。このため、例えば、プロジェクターの投射画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、投射画像における補完対象領域に対応する画像を表示部に表示して視認可能とすることができる。このように、プロジェクターの投射画像の視認性を向上させることができる。
また上記目的を達成するために、本発明は、表示システムにおいて、画像を表示する第1の表示装置、及び、使用者に画像を視認させるとともに外景を透過す表示部を備える透過型の第2の表示装置を有し、前記第2の表示装置は、前記第1の表示装置が表示する表示画像のデータを取得するデータ取得部と、前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、を備えること、を特徴とする。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
また上記目的を達成するために、本発明は、使用者に画像を視認させるとともに外景を透過する表示部を備える透過型の表示装置の制御方法であって、外部表示装置が表示する表示画像のデータを取得し、前記表示部を通して前記表示画像を視認可能なときに、前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示すること、を特徴とする。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
また上記目的を達成するために、本発明は、使用者に画像を視認させるとともに外景を透過する表示部を備える透過型の表示装置を制御するコンピューターが実行可能なプログラムであって、前記コンピューターを、外部表示装置が表示する表示画像のデータを取得するデータ取得部と、前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、して機能させることを特徴とする。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
この構成によれば、外部表示装置が表示する表示画像の少なくとも一部を表示部によっても表示するので、外部表示装置の表示と表示装置の表示とを組み合わせることで、外部表示装置の表示画像の視認性を向上させることができる。例えば、外部表示装置が表示する表示画像の一部が障害物によって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を表示部に表示して視認可能とすることができる。
また、本発明は、透過型の表示装置であって、使用者に画像を視認させるとともに外景を透過する表示部と、外景を撮影するカメラと、前記表示部を通して使用者が視認する視認像を取得する視認像取得部と、前記視認像取得部が取得した使用者の視認像に基づいて、前記カメラが撮影した外景の画像を補正して、当該補正した画像を前記表示部を通して使用者が視認している外景に重ねて前記表示部に表示する制御部と、を備えることを特徴とする。
この構成によれば、使用者が視認している外景に、当該外景を撮影した外景画像を重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が視認している外景に、当該外景を撮影した外景画像を重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
また本発明は、上記表示装置において、前記視認像取得部が取得した視認像おける補完対象領域を検出する検出部を備え、前記制御部は、前記外景を撮影するカメラの撮影データから、前記検出部が検出した前記補完対象領域に対応する対応領域のデータを抽出するデータ抽出部と、前記データ抽出部により抽出された前記対応領域のデータに基づく画像を、補正して前記表示部を通して使用者が視認している外景に重ねて表示させる表示制御部と、を備えることを特徴とする。
この構成によれば、使用者が視認している外景に、当該外景を撮影した外景画像を補正して重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が視認している外景に、当該外景を撮影した外景画像を補正して重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
また、本発明は、上記表示装置において、前記外景を撮影するカメラが、IRカメラ、暗視カメラ、または、サーモグラフィーカメラであること、を特徴とする。
この構成によれば、使用者が視認している外景に、人間の目には見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が視認している外景に、人間の目には見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
以下、図面を参照して本発明の実施形態について説明する。
<第1実施形態>
1.頭部装着型表示装置の構成
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
1.頭部装着型表示装置の構成
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御装置10(コントローラー10)と、を備えている。画像表示部20は、単に「表示部」とも呼ぶ。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61と、マイク63と、を備える。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図2参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図2参照)と調光板20Aとを備える。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24から出力された画像光を使用者の眼に導く。調光板20Aは、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板20Aは、光透過性がほぼゼロのもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰または反射するもの等、種々のものを用いることができる。調光板20Aの光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26および左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、頭部装着型表示装置100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは右導光板261、左導光板262を保護し、右導光板261、左導光板262の損傷や汚れの付着等を抑制する。
調光板20Aは右光学像表示部26および左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
調光板20Aは右光学像表示部26および左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、右光学像表示部26の他端である端部ERに配置される。カメラ61は、使用者の眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。図1に示す本実施形態のカメラ61は、単眼カメラであるが、ステレオカメラであってもよい。カメラ61は、請求項における画像取得部に相当する。
カメラ61の撮影方向すなわち画角は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮影する方向である。また、カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮影できるようにカメラ61の撮像範囲が設定されていると、より好ましい。
カメラ61の撮影方向すなわち画角は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮影する方向である。また、カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮影できるようにカメラ61の撮像範囲が設定されていると、より好ましい。
画像表示部20は、さらに、画像表示部20を制御装置10に接続するための接続部40を有している。接続部40は、制御装置10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を備える。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。
連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。イヤホンプラグ30の近傍にはマイク63が設けられている。イヤホンプラグ30からマイク63までは一本のコードにまとめられ、マイク63からコードが分岐して、右イヤホン32と左イヤホン34のそれぞれに繋がっている。
なお、右コード42と左コード44とを一本のコードにまとめることも可能である。具体的には、右コード42の内部の導線を、画像表示部20の本体内部を通して左保持部23側に引き込み、左コード44内部の導線とともに樹脂で被覆して、一本のコードにまとめてもよい。
画像表示部20と制御装置10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御装置10と、のそれぞれには、互いに嵌合するコネクター(図示略)が設けられている。本体コード48のコネクターと制御装置10のコネクターとの嵌合/嵌合解除により、制御装置10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御装置10は、頭部装着型表示装置100を制御するための装置である。制御装置10は、決定キー11、点灯部12、表示切替キー13、輝度切替キー15、方向キー16、メニューキー17、及び電源スイッチ18を含むスイッチ類を備える。また、制御装置10は、使用者が指によりタッチ操作するトラックパッド14を備える。
決定キー11は、押下操作を検出して、制御装置10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。
トラックパッド14は、トラックパッド14の操作面上での使用者の指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
2.表示システムの構成
図2は、実施形態に係る表示システム1を構成する各部の機能ブロック図である。
図2に示すように、表示システム1は、外部表示装置(第1の表示装置)としてのプロジェクター200と、外部機器OAと、頭部装着型表示装置100とを備える。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。外部機器OAは、プロジェクター200、及び/或いは、頭部装着型表示装置100に画像を供給する画像供給装置として用いられる。頭部装着型表示装置100は、表示システム1において、使用者が、画像表示部20を通して、プロジェクター200によりスクリーンSC(図3参照)に投射された画像を視認する第2の表示装置として用いられる。
図2は、実施形態に係る表示システム1を構成する各部の機能ブロック図である。
図2に示すように、表示システム1は、外部表示装置(第1の表示装置)としてのプロジェクター200と、外部機器OAと、頭部装着型表示装置100とを備える。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。外部機器OAは、プロジェクター200、及び/或いは、頭部装着型表示装置100に画像を供給する画像供給装置として用いられる。頭部装着型表示装置100は、表示システム1において、使用者が、画像表示部20を通して、プロジェクター200によりスクリーンSC(図3参照)に投射された画像を視認する第2の表示装置として用いられる。
プロジェクター200は、外部機器OAに接続され、外部機器OAから入力された画像データに基づいて、投射対象物であるスクリーンSCに画像を投射して表示する表示装置である。なお、本明細書では、プロジェクター200によってスクリーンSC上に表示される画像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を投射することを「画像を表示する」ともいう。プロジェクター200は、入力される画像データに基づき動画像および静止画像のいずれも投射できる。プロジェクター200は、外部機器OAに、無線通信を利用した無線LAN等のネットワークを介して接続される。なお、プロジェクター200は、有線の通信ネットワークにより外部機器OAに接続されていても良い。また、プロジェクター200は、画像供給部を内蔵している構成であってもよい。すなわち、プロジェクター200が内蔵する回路により、プロジェクター200が投射する画像データを生成する構成であってもよい。この場合、表示システム1において、外部機器OAを省略する構成とすることができる。プロジェクター200は、図示は省略するが、大きく分けて光学的な画像の形成を行う投射部と、この投射部に入力される画像信号を電気的に処理する画像処理系とから構成される。
なお、本明細書では、外部表示装置の実施形態として、プロジェクターを用いて説明するが、外部表示装置は、プロジェクターに限定されるものではない。液晶表示パネルに画像/画像を表示する液晶モニターまたは液晶テレビ、或いは、PDP(プラズマディスプレイパネル)に画像/画像を表示するモニター装置またはテレビ受像機、OLED(Organic light−emitting diode)、OEL(Organic Electro−Luminescence)等と呼ばれる有機EL表示パネルに画像/画像を表示するモニター装置またはテレビ受像機等の自発光型の表示装置など、各種の表示装置も本発明の外部表示装置に含まれる。
なお、本明細書では、外部表示装置の実施形態として、プロジェクターを用いて説明するが、外部表示装置は、プロジェクターに限定されるものではない。液晶表示パネルに画像/画像を表示する液晶モニターまたは液晶テレビ、或いは、PDP(プラズマディスプレイパネル)に画像/画像を表示するモニター装置またはテレビ受像機、OLED(Organic light−emitting diode)、OEL(Organic Electro−Luminescence)等と呼ばれる有機EL表示パネルに画像/画像を表示するモニター装置またはテレビ受像機等の自発光型の表示装置など、各種の表示装置も本発明の外部表示装置に含まれる。
頭部装着型表示装置100の制御装置10は、制御部140と、操作部135と、入力情報取得部110と、記憶部120と、電源130と、インターフェイス180と、送信部(Tx)51および送信部(Tx)52と、を有している。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18の各部を備える。
操作部135は、使用者による操作を検出する。操作部135は、図1に示した決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18の各部を備える。
入力情報取得部110は、使用者による操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、トラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。
電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。
電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。
記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。記憶部120には、頭部装着型表示装置100の画像表示部20に表示する画像データが格納されていても良い。
インターフェイス180は、制御装置10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、の有線接続に対応したインターフェイスを用いることができる。
制御部140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(OS)150、画像処理部160、表示制御部190、座標特定部163、検出部185、データ抽出部161、として機能する。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、3軸センサー113の検出値を制御部140が取得可能である。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置10の制御部140が計時する時刻を修正させる機能を備えていてもよい。
制御部140には、3軸センサー113、GPS115、及び通信部117が接続される。3軸センサー113は3軸の加速度センサーであり、3軸センサー113の検出値を制御部140が取得可能である。GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を求める。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御装置10の制御部140が計時する時刻を修正させる機能を備えていてもよい。
通信部117は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth(登録商標)等の規格に準じた無線データ通信を実行する。
外部機器OAが、通信部117に無線接続された場合には、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示するための制御を行う。一方、外部機器OAが、インターフェイス180に有線接続された場合には、制御部140は、コンテンツデータをインターフェイス180より取得して、画像表示部20に画像を表示するための制御を行う。よって、通信部117、及び、インターフェイス180を、以下総称してデータ取得部DAと呼ぶ。
データ取得部DAは、外部機器OAからコンテンツデータを取得する。データ取得部DAは、プロジェクター200がスクリーンSCに投射して表示する画像のデータ(以下、「表示画像データ」という)を、外部機器OAから取得する。データ取得部DAは、プロジェクター200が、画像供給部を内蔵している場合には、表示画像データを、直接プロジェクター200から取得しても良い。また、記憶部120に格納された画像データを、データ取得部DAから外部機器OA、或いは、プロジェクター200に送信して、プロジェクター200により表示することもできる。
外部機器OAが、通信部117に無線接続された場合には、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示するための制御を行う。一方、外部機器OAが、インターフェイス180に有線接続された場合には、制御部140は、コンテンツデータをインターフェイス180より取得して、画像表示部20に画像を表示するための制御を行う。よって、通信部117、及び、インターフェイス180を、以下総称してデータ取得部DAと呼ぶ。
データ取得部DAは、外部機器OAからコンテンツデータを取得する。データ取得部DAは、プロジェクター200がスクリーンSCに投射して表示する画像のデータ(以下、「表示画像データ」という)を、外部機器OAから取得する。データ取得部DAは、プロジェクター200が、画像供給部を内蔵している場合には、表示画像データを、直接プロジェクター200から取得しても良い。また、記憶部120に格納された画像データを、データ取得部DAから外部機器OA、或いは、プロジェクター200に送信して、プロジェクター200により表示することもできる。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示略)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示略)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データ(図中、Data)として、1フレームごとに記憶部120内のDRAMに格納する。この画像データは、例えばRGBデータである。
なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御装置10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
検出部185は、頭部装着型表示装置100の画像表示部20を通して、使用者がプロジェクター200の表示画像を視認可能なときに、表示画像における視認不可能、或いは視認しにくくなった領域を含む補完対象領域NR(図3参照)を検出する。検出部185は、スクリーンSC上の表示画像をカメラ61が撮影した画像を取得する。検出部185は、カメラ61が撮影した画像の画像解析を行い、表示画像における補完対象領域NRを検出する。また、検出部185は、スクリーンSC上の表示画像をカメラ61が撮影した画像と、データ取得部DAが取得したプロジェクター200の表示画像データに基づく画像と、を比較(マッチング)して、補完対象領域NRを検出する構成であっても良い。
座標特定部163は、プロジェクター200の表示画像データに対して、どの領域が補完対象領域NRかを特定する。座標特定部163は、スクリーンSCに表示されたプロジェクター200の表示画像をカメラ61により撮影した撮影画像を取得し、表示画像のスクリーン面座標を特定する。スクリーン面座標は、表示画像データに対する表示画像のスクリーン面内における座標であり、少なくとも水平方向の位置Xと、垂直方向の位置Yの2値の組み合わせからなる。座標特定部163は、表示制御部190の機能により、スクリーンSCに特徴のある画像を表示し、カメラ61を用いてこの特徴のある画像を認識することで、スクリーン面座標を特定しても良い。座標特定部163は、表示画像データに対してどこが補完対象領域NRかを、補完対象領域NRのスクリーン面座標に対する相対的な座標により特定する。
データ抽出部161は、データ取得部DAが取得した、プロジェクター200の表示画像データから、補完対象領域NRに対応する対応領域のデータを抽出する。データ抽出部161は、座標特定部163が特定した補完対象領域NRのスクリーン面座標、或いは、後述する投影面座標に基づいて、補完対象領域NRにマッピングする画像のデータを抽出する。
頭部装着型表示装置100の画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、振動センサー65と、9軸センサー66と、を備えている。
振動センサー65は、加速度センサーを利用して構成され、図1に示すように画像表示部20の内部に配置される。図1の例では右保持部21において、右光学像表示部26の端部ERの近傍に内蔵される。振動センサー65は、使用者が端部ERを叩く操作(ノック操作)を行った場合に、この操作による振動を検出して、検出結果を制御部140に出力する。この振動センサー65の検出結果により、制御部140は、使用者によるノック操作を検出する。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者の頭部に装着されているときには、使用者の頭部の動きを検出する。検出された使用者の頭部の動きから画像表示部20の向きがわかるため、制御部140は、使用者の視線方向を推定できる。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を備える。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御装置10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データData1と、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を備える。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者の左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図3は、プロジェクター200によって表示される画像の説明図である。図3に示すように、プロジェクター200は、投射対象物であるスクリーンSCに画像を投射して表示する。プロジェクター200と、スクリーンSCとの間に、障害物OBが在る場合には、プロジェクター200の表示画像の一部が、視聴者AUにより、視認不可能、或いは視認しにくくなる。この、表示画像における、視聴者AUにより、視認不可能、或いは視認しにくくなった領域を、補完対象領域NRと称する。補完対象領域NRは、スクリーンSCに表示された画像を視認不可能とする位置に在る障害物OB、スクリーンSC上に投影された障害物OBの影SH、及び、障害物OB上に投影された障害物上画像OIを含む。
以下に、視聴者AUが、画像表示部20を通して、表示画像を視認可能な場合の頭部装着型表示装置100の動作を説明する。なお、視聴者AUは、頭部装着型表示装置100を装着する使用者のことである。
以下に、視聴者AUが、画像表示部20を通して、表示画像を視認可能な場合の頭部装着型表示装置100の動作を説明する。なお、視聴者AUは、頭部装着型表示装置100を装着する使用者のことである。
頭部装着型表示装置100の制御部140は、プロジェクター200の表示画像に補完対象領域NRが有るか無いかを判定し、補完対象領域NRが有る場合には、補完対象領域NRの画像を画像表示部20に表示して表示画像を補完する補完処理を行う。図4は、頭部装着型表示装置100の動作を示すフローチャートであり、制御部140により補完処理を行う際の動作を示す。制御部140は、プロジェクター200の表示画像に対しフレーム毎に補完処理を行う。なお、補完処理の開始、及び、終了は、画像表示部20を通してスクリーンSC上の表示画像を視認する視聴者AUが操作部135に対する指示操作により行われても良い。
まず、頭部装着型表示装置100の制御部140は、データ取得部DAを制御し、プロジェクター200、或いは、外部機器OAから、プロジェクター200の表示画像データを取得する(ステップS1)。また、制御部140は、カメラ61を制御し、画像表示部20を通して視認される表示画像を撮影する(ステップS2)。このとき、カメラ61で撮影する画像は、視聴者AUが画像表示部20を通して視認している画像であり、表示画像の一部が撮影されていても良いし、或いは、全体が撮影されていても良い。
まず、頭部装着型表示装置100の制御部140は、データ取得部DAを制御し、プロジェクター200、或いは、外部機器OAから、プロジェクター200の表示画像データを取得する(ステップS1)。また、制御部140は、カメラ61を制御し、画像表示部20を通して視認される表示画像を撮影する(ステップS2)。このとき、カメラ61で撮影する画像は、視聴者AUが画像表示部20を通して視認している画像であり、表示画像の一部が撮影されていても良いし、或いは、全体が撮影されていても良い。
次に、制御部140は、カメラ61が撮影した画像に基づいて、検出部185の機能により、表示画像の補完対象領域NRを検出する(ステップS3)。検出部185は、データ取得部DAが取得したプロジェクター200の表示画像データと、表示画像をカメラ61で撮影した画像と、に基づいて、表示画像の補完対象領域NRを検出しても良い。続いて、制御部140は、検出部185により補完対象領域NRが検出されたか否かを判定する(ステップS4)。検出部185により補完対象領域NRが検出されなかった場合には(ステップS4:NO)、制御部140は、このフレームでの補完対象領域NRの補完処理を終了する。
検出部185により補完対象領域NRが検出された場合には(ステップS4:YES)、制御部140は、座標特定部163の機能により、補完対象領域NRの座標を特定する(ステップS5)。
座標特定部163は、スクリーンSCと、視聴者AUとの間に置かれた障害物OBによって、補完対象領域NRが生じた場合に、視聴者AUから見た、補完対象領域NRのスクリーン面座標を特定する。また、座標特定部163は、プロジェクター200とスクリーンSCとの間に置かれた障害物OBの影SHがスクリーンSC上に投影され、影SHによって補完対象領域NRが生じた場合に、視聴者AUから見た、補完対象領域NRのスクリーン面座標を特定する。
さらに、プロジェクター200とスクリーンSCとの間に障害物OBが在る場合、スクリーンSC上に投影されるべき画像が、障害物OBに投影される。スクリーンSCと、障害物OBとでは、プロジェクター200から投影面までの距離が異なるため、障害物OBには、画像が正常に表示されない。これにより、障害物OBに投影された画像である障害物上画像OIは、補完対象領域NRとなる。
座標特定部163は、スクリーンSCと、視聴者AUとの間に置かれた障害物OBによって、補完対象領域NRが生じた場合に、視聴者AUから見た、補完対象領域NRのスクリーン面座標を特定する。また、座標特定部163は、プロジェクター200とスクリーンSCとの間に置かれた障害物OBの影SHがスクリーンSC上に投影され、影SHによって補完対象領域NRが生じた場合に、視聴者AUから見た、補完対象領域NRのスクリーン面座標を特定する。
さらに、プロジェクター200とスクリーンSCとの間に障害物OBが在る場合、スクリーンSC上に投影されるべき画像が、障害物OBに投影される。スクリーンSCと、障害物OBとでは、プロジェクター200から投影面までの距離が異なるため、障害物OBには、画像が正常に表示されない。これにより、障害物OBに投影された画像である障害物上画像OIは、補完対象領域NRとなる。
座標特定部163は、プロジェクター200の画像光が障害物OBに投射された場合に、視聴者AUから見た、障害物上画像OIの投影面座標を特定する。座標特定部163は、投影面に表示されたプロジェクター200の表示画像をカメラ61により撮影した撮影画像を取得し、表示画像の投影面座標を特定する。投影面座標は、表示画像データに対する表示画像の投影面内における座標であり、少なくとも水平方向の位置Xと、垂直方向の位置Yの2値の組み合わせからなる。座標特定部163は、表示制御部190の機能により、投影面に特徴のある画像を表示し、カメラ61を用いてこの特徴のある画像を認識することで、投影面座標を特定しても良い。座標特定部163は、表示画像データに対してどこが補完対象領域NRかを、補完対象領域NRの投影面座標に対する相対的な座標により特定する。なお、前述したスクリーン面座標は、投射対象物がスクリーンSCの場合の表示画像データに対する表示画像の投影面内における座標である。これに対し、投影面座標は、投射対象物が、スクリーンSCを含む広義の投影面である場合の、表示画像データに対する表示画像の投影面内における座標である。
続いて、制御部140は、データ抽出部161の機能により、補完対象領域NRに対応する対応領域の表示画像データを、データ取得部DAが取得したプロジェクター200の表示画像データから抽出する(ステップS6)。データ抽出部161は、プロジェクター200の表示画像データから、補完対象領域NR全体に対応する対応領域の表示画像データを、抽出する。データ抽出部161は、プロジェクター200の表示画像データから、補完対象領域NR全体を含み、補完対象領域NRに対応する対応領域より広い領域の表示画像データを、抽出しても良い。
次に、制御部140は、画像処理部160の機能により、プロジェクター200の表示画像データから抽出した補完対象領域NRに対応する対応領域の表示画像データに基づく画像を生成する。制御部140は、生成した画像を、表示制御部190の機能により、画像表示部20の補完対象領域NRに対応する表示位置に表示する(ステップS7)。制御部140は、生成した画像を、補完対象領域NRの全体に重なるように画像表示部20に表示する。また、制御部140は、補完対象領域NRに対応する対応領域より広い領域で表示画像データを切り抜いた場合には、生成した画像を、補完対象領域NRの全体、及び、正常領域にオーバーラップさせて画像表示部20に表示しても良い。さらに、制御部140は、生成した画像を、補完対象領域NRに対応する対応領域に対して縮小して、補完対象領域NR内に収まるように画像表示部20に表示しても良い。
次に、制御部140は、画像処理部160の機能により、プロジェクター200の表示画像データから抽出した補完対象領域NRに対応する対応領域の表示画像データに基づく画像を生成する。制御部140は、生成した画像を、表示制御部190の機能により、画像表示部20の補完対象領域NRに対応する表示位置に表示する(ステップS7)。制御部140は、生成した画像を、補完対象領域NRの全体に重なるように画像表示部20に表示する。また、制御部140は、補完対象領域NRに対応する対応領域より広い領域で表示画像データを切り抜いた場合には、生成した画像を、補完対象領域NRの全体、及び、正常領域にオーバーラップさせて画像表示部20に表示しても良い。さらに、制御部140は、生成した画像を、補完対象領域NRに対応する対応領域に対して縮小して、補完対象領域NR内に収まるように画像表示部20に表示しても良い。
このように、制御部140は、プロジェクター200の表示画像に対して、フレーム毎に補完対象領域NRを検出する。そして、制御部140は、補完対象領域NRに対応する対応領域の画像を画像表示部20の補完対象領域NRに対応する表示位置に表示して、表示画像を補完する、補完処理を行うことができる。これにより、制御部140は、補完対象領域NRが表示画像内で移動したり、表示画像中に出入したりする場合でも、フレーム毎に補完対象領域NRに対応する対応領域の画像を頭部装着型表示装置100により補完することができる。補完対象領域NRが表示画像内で移動したり、表示画像中に出入したりする場合は、例えば、障害物OBが、プレゼンテーション中のプレゼンターの場合などである。これにより、補完対象領域NRに対応する対応領域がスクリーン面座標に対して固定ではない場合でも、プロジェクター200の表示画像の視認性を向上することができる。
また、制御部140は、補完処理の開始、及び、終了を視聴者AUの操作部135に対する指示操作に基づいて行うことができる構成であっても良い。これにより、視聴者AUが表示画像に視認不可能、或いは視認しにくくなった領域があると判断し、補完処理の実行を望む場合に補完処理を行うことができる。よって、プロジェクター200の表示画像の視認性を向上することができる。
また、制御部140は、補完処理の開始、及び、終了を視聴者AUの操作部135に対する指示操作に基づいて行うことができる構成であっても良い。これにより、視聴者AUが表示画像に視認不可能、或いは視認しにくくなった領域があると判断し、補完処理の実行を望む場合に補完処理を行うことができる。よって、プロジェクター200の表示画像の視認性を向上することができる。
補完対象領域NRに障害物上画像OIが含まれる場合には、制御部140は、この障害物上画像OIをキャンセルする補完処理を行うことができる。図5は、補完対象領域NRに障害物上画像OIが含まれる場合の頭部装着型表示装置100の動作を示すフローチャート。制御部140は、補完対象領域NRが検出されたと判定すると、この補完対象領域NRに障害物上画像OIが含まれているか否かを判定する(ステップS11)。補完対象領域NRに障害物上画像OIが含まれていると判定すると(ステップS11:YES)、制御部140は、座標特定部163の機能により、障害物上画像OIの投影面座標を特定する(ステップS12)。続いて、制御部140は、特定した障害物上画像OIの投影面座標に基づいて、データ抽出部161の機能により、障害物上画像OIに対応する対応領域の表示画像データを、プロジェクター200の表示画像データから抽出する(ステップS13)。次に、制御部140は、画像処理部160の機能により、障害物上画像OIに対応する対応領域の表示画像データから、プロジェクター200の投影画像とは色反転させた画像を生成する。そして、制御部140は、表示制御部190の機能により、生成した画像を画像表示部20の、障害物上画像OIの投影面座標に対応する表示位置に表示する(ステップS14)。これにより、視聴者AUが、画像表示部20を通して表示画像を視認すると、障害物OB上に投影された障害物上画像OIがキャンセルされ、障害物OBをはっきりと視認することができる。
図6は、補完対象領域NRに障害物上画像OIが含まれる場合に、視聴者AUが画像表示部20を通して視認した表示画像の例を示した図である。図6(A)は、補完対象領域NRに障害物上画像OIが含まれる場合の視聴者AUの視認画像の例を示し、頭部装着型表示装置100により表示画像を補完する前の図である。補完対象領域NRに障害物上画像OIが含まれる場合、制御部140は、障害物上画像OIをキャンセルすると共に、補完対象領域NRのスクリーン面座標に対応する対応領域の表示画像を補完する。つまり、制御部140は、障害物上画像OIの投影面座標に対応する領域の表示画像データを抽出して色反転させた画像と、補完対象領域NRのスクリーン面座標に対応する領域の表示画像データを抽出して生成した画像と、を重ねて画像表示部20に表示する。これにより、図6(B)に示すように、視聴者AUは、画像表示部20を通して完全な表示画像を見ることができる。
補完対象領域NRに障害物上画像OIが含まれている場合、視聴者AUは、補完対象領域NRの画像全体を補完して完全な表示画像を観るか、或いは、障害物OBを視認するか、を選択可能な構成であっても良い。この場合、視聴者AUは、操作部135に対する操作により、補完対象領域NRの画像全体を補完するか、或いは、障害物OBを視認するか、を切り替えることができる構成であっても良い。視聴者AUが、障害物OBを視認する操作を行った場合には、制御部140は、補完対象領域NRの対応領域うち、障害物上画像OIに対応する領域には、プロジェクターの投影画像をキャンセルする画像を画像表示部20の対応する表示位置に表示する。また、制御部140は、障害物上画像OIに対応する領域以外の補完対象領域NRの対応領域に、スクリーン上の表示画像を補完する画像を画像表示部20の対応する表示位置に表示する。これにより、図6(C)に示すように、視聴者AUは、画像表示部20を通して障害物OBを鮮明に見ることができる。
以上説明したように、本発明を適用した実施形態に係る透過型の頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する画像表示部20と、プロジェクター200が表示する表示画像のデータを取得するデータ取得部DAと、画像表示部20を通して表示画像を視認可能なときに、データ取得部DAが取得したデータに基づき、表示画像の少なくとも一部を画像表示部20により表示する制御部140と、を備える。このため、プロジェクター200が表示する表示画像の少なくとも一部を画像表示部20によっても表示することができる。これにより、例えば、プロジェクター200が表示する表示画像の一部が障害物OBによって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、プロジェクター200が表示する表示画像における補完対象領域NRを検出する検出部185を備え、制御部140は、データ取得部DAが取得したデータから、検出部185が検出した補完対象領域NRに対応する対応領域のデータを抽出するデータ抽出部161と、データ抽出部161により抽出された対応領域のデータに基づく画像を、画像表示部20により、補完対象領域NRに対応する表示位置に表示させる表示制御部190と、を備える。このため、プロジェクター200が表示する表示画像に補完対象領域NRがある場合に、補完対象領域NRに対応する対応領域のデータに基づく画像を画像表示部20により、補完対象領域NRに対応する表示位置に表示させることができる。これにより、例えば、プロジェクター200が表示する表示画像の一部が障害物OBによって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像における補完対象領域NRに対応する画像を画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、表示制御部190は、対応領域のデータに基づく画像を、検出部185が検出した補完対象領域NRの少なくとも一部に重なるように画像表示部20に表示させる。このため、表示画像における補完対象領域NRに対応する画像を補完対象領域NRの少なくとも一部に重ねて画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、データ抽出部161は、補完対象領域NRを含む対応領域のデータを抽出し、表示制御部190は、対応領域のデータに基づく画像を、検出部185が検出した補完対象領域NRに重なるように画像表示部20に表示させる。このため、表示画像における補完対象領域NRに対応する画像を補完対象領域NRに重ねて画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、検出部185は、プロジェクター200がスクリーンSCに画像光を投射するプロジェクター200である場合に、スクリーンSC以外の物体の影響でプロジェクター200の投射画像が変化した領域を補完対象領域NRとして検出する。このため、プロジェクター200の投射画像の補完対象領域NRを画像表示部20によっても表示することができる。これにより、例えば、プロジェクター200の投射画像の一部が障害物OBに投射されて、視認不可能、或いは視認しにくくなった場合に、投射画像における補完対象領域NRに対応する画像を画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200の投射画像の視認性を向上させることができる。
また、障害物OBに投射された画像を補完対象領域NRとして検出することができるため、画像表示部20の障害物OBに対応する表示位置に、プロジェクター200の表示画像とは異なる画像を表示することができる。これにより、スクリーンSCと、障害物OBとに2種類の画像を表示することもできる。
また、障害物OBに投射された画像を補完対象領域NRとして検出することができるため、画像表示部20の障害物OBに対応する表示位置に、プロジェクター200の表示画像とは異なる画像を表示することができる。これにより、スクリーンSCと、障害物OBとに2種類の画像を表示することもできる。
また、本発明を適用した実施形態に係る表示システム1は、画像を表示する第1の表示装置であるプロジェクター200、及び、外景を透過し、外景とともに視認できるように画像を表示する画像表示部20を備える第2の表示装置である頭部装着型表示装置100を有し、頭部装着型表示装置100は、プロジェクター200が表示する表示画像のデータを取得するデータ取得部DAと、画像表示部20を通して表示画像を視認可能なときに、データ取得部DAが取得したデータに基づき、表示画像の少なくとも一部を画像表示部により表示する制御部140と、を備える。このため、プロジェクター200が表示する表示画像の少なくとも一部を頭部装着型表示装置100の画像表示部20によっても表示することができる。これにより、例えば、プロジェクター200が表示する表示画像の一部が障害物OBによって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を頭部装着型表示装置100の画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、本発明を適用した実施形態に係る頭部装着型表示装置100の制御方法は、外景を透過し、外景とともに視認できるように画像を表示する画像表示部20を備える頭部装着型表示装置100の制御方法であって、プロジェクター200が表示する表示画像のデータを取得し、画像表示部20を通して表示画像を視認可能なときに、データ取得部DAが取得したデータに基づき、表示画像の少なくとも一部を画像表示部20により表示する。これにより、プロジェクター200が表示する表示画像の少なくとも一部を画像表示部20によっても表示することができる。このため、例えば、プロジェクター200が表示する表示画像の一部が障害物OBによって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
また、本発明を適用した実施形態に係るプログラムは、外景を透過し、前記外景とともに視認できるように画像を表示する画像表示部20を備える頭部装着型表示装置100を制御するコンピューターが実行可能なプログラムであって、コンピューターを、プロジェクター200が表示する表示画像のデータを取得するデータ取得部DAと、画像表示部20を通して表示画像を視認可能なときに、データ取得部DAが取得したデータに基づき、表示画像の少なくとも一部を画像表示部20により表示する表示制御部190と、して機能させる。このため、プロジェクター200が表示する表示画像の少なくとも一部を画像表示部20によっても表示することができる。これにより、例えば、プロジェクター200が表示する表示画像の一部が障害物OBによって遮られ、視認不可能、或いは視認しにくくなった場合に、この表示画像の一部を画像表示部20に表示して視認可能とすることができる。このように、プロジェクター200が表示する表示画像の視認性を向上させることができる。
<第2実施形態>
上述した第1実施形態の表示システム1では、頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する画像表示部20を通してプロジェクター200の表示画像を視認可能なときに、表示画像の少なくとも一部を画像表示部20により表示する構成であった。頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する画像表示部20と、使用者の視界の景色である外景を撮像するカメラ61と、を備える。頭部装着型表示装置100は、カメラ61の撮像画像を画像表示部20に表示することもできる。つまり、頭部装着型表示装置100では、画像表示部20を通して視る実像(実現実の物体/外景)に、カメラ61で撮像した外景の画像を虚像として重ねて使用者に視認させることができる。
上述した第1実施形態の表示システム1では、頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する画像表示部20を通してプロジェクター200の表示画像を視認可能なときに、表示画像の少なくとも一部を画像表示部20により表示する構成であった。頭部装着型表示装置100は、使用者に画像を視認させるとともに外景を透過する画像表示部20と、使用者の視界の景色である外景を撮像するカメラ61と、を備える。頭部装着型表示装置100は、カメラ61の撮像画像を画像表示部20に表示することもできる。つまり、頭部装着型表示装置100では、画像表示部20を通して視る実像(実現実の物体/外景)に、カメラ61で撮像した外景の画像を虚像として重ねて使用者に視認させることができる。
この第2実施形態の表示システム1Aでは、外景をシースルーで見ることが可能な表示装置の新たな活用に対する要求に応えるために、外景とともに視認できるように外景の画像を表示し、外景の見え方の向上に寄与する表示装置を提供することを目的とする。なお、この第2実施形態において、上述の第1実施形態と同一の構成について、図中に同一の符号を付し、その説明を省略する。
図7は、第2実施形態の表示システム1Aの制御系の機能ブロック図である。
表示システム1Aは、カメラ61aを備える。カメラ61aは、使用者の眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。カメラ61aは、本実施形態では画像表示部20に設けられている構成であるが、これに限らず、頭部装着型表示装置100の外部のカメラであってもよい。カメラ61aは、IR(赤外線)カメラ、暗視カメラ、サーモグラフィーカメラ等の、人間の目には見えない、或いは、見えにくい波長の光を撮影するカメラである。カメラ61aの撮像範囲は、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。カメラ61aの撮像範囲は、調光板20Aを通した使用者の視界の全体を撮影できるように設定されていると、より好ましい。
表示システム1Aは、カメラ61aを備える。カメラ61aは、使用者の眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。カメラ61aは、本実施形態では画像表示部20に設けられている構成であるが、これに限らず、頭部装着型表示装置100の外部のカメラであってもよい。カメラ61aは、IR(赤外線)カメラ、暗視カメラ、サーモグラフィーカメラ等の、人間の目には見えない、或いは、見えにくい波長の光を撮影するカメラである。カメラ61aの撮像範囲は、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。カメラ61aの撮像範囲は、調光板20Aを通した使用者の視界の全体を撮影できるように設定されていると、より好ましい。
頭部装着型表示装置100の制御装置10は、制御部140の機能により、カメラ61aの撮像画像を、画像表示部20を通してみる実景(外景)に重ねて表示する。表示システム1Aの画像表示部20は、さらに、視認像取得部62を備える。視認像取得部62は画像表示部20に設けられ、頭部装着型表示装置100の使用者の視認像を取得する。視認像取得部62は、導光板261,262に設けられた光学センサーであってもよいし、使用者の目や鼻の側に設けられた受光素子であってもよい。
頭部装着型表示装置100は、プロジェクター200の表示画像を補完する表示画像補完モードと、実景(外景)に実景の虚像を重ねて表示する実景補完モードと、補完対象領域NRの補完を行わない通常動作モードと、を含む複数の動作モードを実行可能である。モードの切り替えは、使用者の操作部135に対する指示操作で行われる。
表示画像補完モードでは、第1の実施形態で説明したように、画像表示部20を通して視るプロジェクター200の表示画像に補完対象領域NRを検出し、補完対象領域NRの画像を画像表示部20に表示することで、プロジェクター200の表示画像を補完する。実景補完モードでは、画像表示部20を通して使用者が視る実景に、実景の虚像を重ねることで、実景の少なくとも一部が人間の目には見えない、或いは、見えにくい場合でも、実景を視認可能とすることができる。実景補完モードは、使用者が操作部135に対する指示操作で開始することができるため、使用者が実景中に見えない、或いは、見えにくい領域があると判断した場合に、補完処理を実行することができる。
表示画像補完モードでは、第1の実施形態で説明したように、画像表示部20を通して視るプロジェクター200の表示画像に補完対象領域NRを検出し、補完対象領域NRの画像を画像表示部20に表示することで、プロジェクター200の表示画像を補完する。実景補完モードでは、画像表示部20を通して使用者が視る実景に、実景の虚像を重ねることで、実景の少なくとも一部が人間の目には見えない、或いは、見えにくい場合でも、実景を視認可能とすることができる。実景補完モードは、使用者が操作部135に対する指示操作で開始することができるため、使用者が実景中に見えない、或いは、見えにくい領域があると判断した場合に、補完処理を実行することができる。
図8は、実景補完モードにおける頭部装着型表示装置100の動作を示すフローチャートである。実景補完モードが開始されると、制御部140は、まず、カメラ61aを制御して、使用者の視界の外景を撮像し、外景画像を取得する。制御部140は、画像処理部160、および、表示制御部190を制御して、カメラ61aが撮影した外景画像を画像表示部20に虚像として、実景RVに重ねて表示する。ここで、画像表示部20に表示されるカメラ61aが撮影した外景画像に基づく画像を、表示画像PVと称する。
実景補完モードでは、制御部140は、カメラ61aを制御して、予め設定された周期で連続的に撮影を実行させる。制御部140を、カメラ61aが1フレームを撮影する毎に、画像表示部20に実景RVに重ねて表示画像PVを表示する。
実景補完モードでは、制御部140は、カメラ61aを制御して、予め設定された周期で連続的に撮影を実行させる。制御部140を、カメラ61aが1フレームを撮影する毎に、画像表示部20に実景RVに重ねて表示画像PVを表示する。
制御部140は、視認像取得部62を制御して、画像表示部20を通して使用者が視認している、視認像を取得する(ステップS21)。制御部140は、カメラ61aが撮影した1フレームの表示画像PVを画像表示部20に表示する度に、使用者の視認像IMの取得を視認像取得部62に実行させる。視認像取得部62は、上述したように、光学センサー、或いは、受光素子により構成され、視認像IMを画像として撮像することができる。視認像取得部62は、画像表示部20を通して使用者が視認している視認像IMを制御装置10の制御部140に入力する。制御部140は、検出部185の機能により、視認像取得部62が取得した視認像IMから、表示画像PVの補完対象領域NRを検出する(ステップS22)。検出部185は、視認像IMの画像解析を行って、画像表示部20を通して使用者が視認している、実景RVと、実景RVに重ねて表示された表示画像PVと、がずれている部分を、補完対象領域NRとして検出する。
続いて、制御部140は、検出部185により補完対象領域NRが検出されたか否かを判定する(ステップS23)。検出部185により補完対象領域NRが検出されなかった場合には(ステップS23:NO)、制御部140は、このフレームでの補完対象領域NRの補完処理を終了する。検出部185により補完対象領域NRが検出された場合には(ステップS23:YES)、制御部140は、座標特定部163の機能により、補完対象領域NRの液晶ディスプレイ241,242における画素座標を特定する(ステップS24)。
続いて、制御部140は、データ抽出部161の機能により、補完対象領域NRに対応する対応領域の画像データを、表示画像PVの画像データから抽出する(ステップS25)。データ抽出部161は、表示画像PVの画像データから、補完対象領域NR全体に対応する対応領域の画像データを抽出する。データ抽出部161は、表示画像PVの画像データから、補完対象領域NR全体を含み、補完対象領域NRに対応する対応領域より広い領域の画像データを、抽出しても良い。
次に、制御部140は、画像処理部160の機能により、表示画像PVの画像データから抽出した補完対象領域NRに対応する対応領域の画像データの補正を行う。画像処理部160は、補完対象領域NRに対応する対応領域の画像データに対して、位置補正や、形状調整、色補正、カバー率調整などの画像調整を行って、画像データを補正する。そして、制御部140は、補正した画像を、表示制御部190の機能により、実景にぴったりと重なるように画像表示部20の対応する表示位置に表示する(ステップS26)。
次に、制御部140は、画像処理部160の機能により、表示画像PVの画像データから抽出した補完対象領域NRに対応する対応領域の画像データの補正を行う。画像処理部160は、補完対象領域NRに対応する対応領域の画像データに対して、位置補正や、形状調整、色補正、カバー率調整などの画像調整を行って、画像データを補正する。そして、制御部140は、補正した画像を、表示制御部190の機能により、実景にぴったりと重なるように画像表示部20の対応する表示位置に表示する(ステップS26)。
このように、制御部140は、使用者が視認している、実景RVに重ねて表示された表示画像PVの視認像IMに対して、フレーム毎に補完対象領域NRを検出する。そして、制御部140は、補完対象領域NRに対応する対応領域の画像を補正して、実景にぴったりと重なるように、画像表示部20に表示する。これにより、制御部140は、使用者が移動している場合等で、使用者が視認する実景が変わる場合でも、フレーム毎に実景を撮影した外景画像を、実景にぴったりと重なるように表示することができる。
図9は、使用者が画像表示部20を通して視認する視認像を示す図であり、つまり、視認像取得部62により取得された視認像IMを示す図である。画像表示部20を通して使用者が視認している、実景RVと、実景RVに重ねて表示された表示画像PVとは、図9(A)に示すように、表示画像PVの一部が、例えば歪んで表示されることにより、ずれる場合がある。このように、表示画像PVの一部が実景RVからずれて表示された場合には、視認像取得部62により取得された視認像IMから、このずれている部分が補完対象領域NRとして検出される。制御部140は、補完対象領域NRに対応する対応領域の画像データを表示画像PVの画像データから抽出して、位置補正、歪み補正、拡大縮小等の補正を行って、図9(D)に示すように、補正した画像を実景にぴったりと重なるように画像表示部20に表示する。
また、画像表示部20を通して使用者が視認している、実景RVと、実景RVに重ねて表示された表示画像PVとは、図9(B)に示すように、表示画像PVが実景よりも小さく表示されることにより、ずれる場合がある。制御部140は、視認像IMに基づいて、補完対象領域NRを検出して、表示画像PVの画像データを、拡大し、位置補正をおこなって、図9(D)に示すように、補正した画像を実景にぴったりと重なるように画像表示部20に表示する。
さらに、画像表示部20を通して使用者が視認している、実景RVと、実景RVに重ねて表示された表示画像PVとは、図9(C)に示すように、表示画像PVが実景に対してずれた位置に表示される場合がある。制御部140は、視認像IMに基づいて、補完対象領域NRを検出して、表示画像PVの画像データの位置補正や、画像調整(形状調整、カバー率調整)をおこなって、図9(D)に示すように、補正した画像を実景にぴったりと重なるように画像表示部20に表示する。
さらに、画像表示部20を通して使用者が視認している、実景RVと、実景RVに重ねて表示された表示画像PVとは、図9(C)に示すように、表示画像PVが実景に対してずれた位置に表示される場合がある。制御部140は、視認像IMに基づいて、補完対象領域NRを検出して、表示画像PVの画像データの位置補正や、画像調整(形状調整、カバー率調整)をおこなって、図9(D)に示すように、補正した画像を実景にぴったりと重なるように画像表示部20に表示する。
表示画像PVは、上述したように、IR(赤外線)カメラ、暗視カメラ、サーモグラフィーカメラ等のカメラ61aで撮影された画像である。よって、実景RV中に人間の目には見えない、或いは、見えにくい部分があっても、実景RVに表示画像PVをぴったり重ねて表示することで、人間の目には見えない、或いは、見えにくい部分が表示画像PVにより補完される。これにより、使用者は、画像表示部20を通して、実景をはっきりと視認することができる。
以上説明したように、本発明を適用した実施形態によれば、透過型の表示装置100であって、使用者に画像を視認させるとともに外景を透過する画像表示部20と、使用者が視認する外景を撮影するカメラ61aと、画像表示部20を通して使用者が視認する視認像を取得する視認像取得部62と、視認像取得部62が取得した使用者の視認像IMに基づいて、カメラ61aが撮影した外景の画像を補正して、当該補正した画像を画像表示部20を通して使用者が視認している外景に重ねて画像表示部20に表示する制御部140と、を備えることを特徴とする。
この構成によれば、使用者が画像表示部20を通して視認している外景(実景)RVに、当該外景を撮影した外景画像PVを重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像PVにより補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が画像表示部20を通して視認している外景(実景)RVに、当該外景を撮影した外景画像PVを重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像PVにより補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
また本発明は、上記表示装置において、視認像取得部62が取得した視認像IMおける補完対象領域NRを検出する検出部185を備え、制御部140は、外景を撮影するカメラ61aの撮影データから、検出部185が検出した補完対象領域NRに対応する対応領域のデータを抽出するデータ抽出部161と、データ抽出部161により抽出された対応領域のデータに基づく画像を、補正して画像表示部20を通して使用者が視認している外景RVに重ねて表示させる表示制御部190と、を備えることを特徴とする。
この構成によれば、使用者が画像表示部20を通して視認している外景RVに、当該外景を撮影した外景画像PVを補正して重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が画像表示部20を通して視認している外景RVに、当該外景を撮影した外景画像PVを補正して重ねて表示する。これにより、外景に、見えない、或いは、見えにくい部分がある場合に、この部分を外景画像により補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
また、本発明は、上記表示装置において、外景を撮影するカメラ61aが、IRカメラ、暗視カメラ、または、サーモグラフィーカメラであること、を特徴とする。
この構成によれば、使用者が画像表示部20を通して視認している外景RVに、人間の目には見えない、或いは、見えにくい部分がある場合に、この部分を外景画像PVにより補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
この構成によれば、使用者が画像表示部20を通して視認している外景RVに、人間の目には見えない、或いは、見えにくい部分がある場合に、この部分を外景画像PVにより補完することで、視認可能とすることができる。よって、外景の視認性を向上させることができる。
なお、この発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。例えば、制御装置10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御装置10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、上記実施形態では、頭部装着型表示装置100は、両眼タイプの光学透過型であるとしているが、本発明は、例えばビデオ透過型や単眼タイプといった他の形式の頭部装着型表示装置にも同様に適用可能である。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよいし、自動車のフロントガラスに用いられるヘッドアップディスプレイ(Head−up Display;HUD)であってもよい。
さらに、上記実施形態では、画像表示部20と制御装置10とが分離され、接続部40を介して接続された構成を例に挙げて説明したが、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10と画像表示部20とが、より長いケーブルまたは無線通信回線により接続され、制御装置10として、ノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、制御装置10と画像表示部20とが、より長いケーブルまたは無線通信回線により接続され、制御装置10として、ノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、例えば、画像表示部20において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro−Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよいし、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像生成部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
また、本発明の表示装置は頭部装着型の表示装置に限定されず、フラットパネルディスプレイやプロジェクター等の各種の表示装置に適用できる。本発明の表示装置は、外光とともに画像光により画像を視認させるものであればよく、例えば、外光を透過させる光学部材により画像光による画像を視認させる構成が挙げられる。具体的には、上記のヘッドマウントディスプレイにおいて外光を透過する光学部材を備えた構成の他、使用者から離れた位置に固定的にまたは可動に設置された透光性の平面や曲面(ガラスや透明なプラスチック等)に、画像光を投射する表示装置にも適用可能である。一例としては、車両の窓ガラスに画像光を投射し、乗車している使用者や車両の外にいる使用者に、画像光による画像とともに、車両内外の景色を視認させる表示装置の構成が挙げられる。また、例えば、建物の窓ガラスなど固定的に設置された透明また半透明、或いは有色透明な表示面に画像光を投射し、表示面の周囲にいる使用者に、画像光による画像とともに、表示面を透かして景色を視認させる表示装置の構成が挙げられる。
また、上記実施形態では、平面のスクリーンSCを、プロジェクター200の投射対象物として例に挙げて説明したが、投射対象物は、3次元の建物や物体、或いは、空間などでも良い。本発明の表示装置は、例えば、表示部を通して視認可能な画像が3Dプロジェクションマッピングの場合にも適用可能である。表示装置は、外部機器OAから3Dマッピングデータを取得して、補完対象領域を検出し、表示部により、補完対象領域に対応する表示位置に、補完対象領域に対応する画像を表示させて、補完することができる。
また、上記実施形態では、一台のプロジェクターを用いて、投射対象物に画像を表示する構成を例に挙げて説明したが、これに限らず、複数台のプロジェクターを用いて、表示画像データに基づく画像を投射対象物に表示する構成であっても良い。
また、上記実施形態では、一台のプロジェクターを用いて、投射対象物に画像を表示する構成を例に挙げて説明したが、これに限らず、複数台のプロジェクターを用いて、表示画像データに基づく画像を投射対象物に表示する構成であっても良い。
また、図2に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図2に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120または制御装置10内の記憶装置に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117またはインターフェイス180を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成の内、操作部135のみが単独の使用者インターフェース(UI)として形成されてもよいし、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよい。また、制御装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示す制御部140が制御装置10と画像表示部20との両方に形成されていてもよいし、制御装置10に形成された制御部140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
1,1A…表示システム、10…制御装置、20…画像表示部(表示部)、61,61a…カメラ、62…視認像取得部、100…頭部装着型表示装置、117…通信部(データ取得部)、135…操作部、140…制御部、160…画像処理部、161…データ抽出部、163…座標特定部、180…インターフェイス(データ取得部)、185…検出部、190…表示制御部、200…プロジェクター(外部表示装置)、201…右バックライト制御部、202…左バックライト制御部、211…右LCD制御部、212…左LCD制御部、221…右バックライト、222…左バックライト、241…右LCD、242…左LCD、251…右投写光学系、252…左投写光学系、261…右導光板、262…左導光板、AU…視聴者、DA…データ取得部、NR…補完対象領域、OA…外部機器、OB…障害物、OI…障害物上画像、SC…スクリーン、SH…影。
Claims (11)
- 透過型の表示装置であって、
使用者に画像を視認させるとともに外景を透過する表示部と、
外部表示装置が表示する表示画像のデータを取得するデータ取得部と、
前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、
を備えることを特徴とする表示装置。 - 前記外部表示装置が表示する表示画像における補完対象領域を検出する検出部を備え、
前記制御部は、
前記データ取得部が取得した前記データから、前記検出部が検出した前記補完対象領域に対応する対応領域のデータを抽出するデータ抽出部と、
前記データ抽出部により抽出された前記対応領域のデータに基づく画像を、前記表示部により、前記補完対象領域に対応する表示位置に表示させる表示制御部と、を備えること、
を特徴とする請求項1記載の表示装置。 - 前記表示制御部は、前記対応領域のデータに基づく画像を、前記検出部が検出した前記補完対象領域の少なくとも一部に重なるように前記表示部に表示させること、
を特徴とする請求項2記載の表示装置。 - 前記データ抽出部は、前記補完対象領域を含む前記対応領域のデータを抽出し、
前記表示制御部は、前記対応領域のデータに基づく画像を、前記検出部が検出した前記補完対象領域に重なるように前記表示部に表示させること、
を特徴とする請求項2または3記載の表示装置。 - 前記検出部は、前記外部表示装置が投射対象物に画像光を投射するプロジェクターである場合に、前記投射対象物以外の物体の影響で前記プロジェクターの投射画像が変化した領域を前記補完対象領域として検出すること、
を特徴とする請求項1から4のいずれかに記載の表示装置。 - 画像を表示する第1の表示装置、及び、使用者に画像を視認させるとともに外景を透過す表示部を備える透過型の第2の表示装置を有し、
前記第2の表示装置は、
前記第1の表示装置が表示する表示画像のデータを取得するデータ取得部と、
前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、を備えること、
を特徴とする表示システム。 - 使用者に画像を視認させるとともに外景を透過する表示部を備える透過型の表示装置の制御方法であって、
外部表示装置が表示する表示画像のデータを取得し、
前記表示部を通して前記表示画像を視認可能なときに、前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示すること、
を特徴とする表示装置の制御方法。 - 使用者に画像を視認させるとともに外景を透過する表示部を備える透過型の表示装置を制御するコンピューターが実行可能なプログラムであって、
前記コンピューターを、
外部表示装置が表示する表示画像のデータを取得するデータ取得部と、
前記表示部を通して前記表示画像を視認可能なときに、前記データ取得部が取得した前記データに基づき、前記表示画像の少なくとも一部を前記表示部により表示する制御部と、
して機能させるためのプログラム。 - 透過型の表示装置であって、
使用者に画像を視認させるとともに外景を透過する表示部と、
外景を撮影するカメラと、
前記表示部を通して使用者が視認する視認像を取得する視認像取得部と、
前記視認像取得部が取得した使用者の視認像に基づいて、前記カメラが撮影した外景の画像を補正して、当該補正した画像を前記表示部を通して使用者が視認している外景に重ねて前記表示部に表示する制御部と、
を備えることを特徴とする表示装置。 - 前記視認像取得部が取得した視認像おける補完対象領域を検出する検出部を備え、
前記制御部は、
前記外景を撮影するカメラの撮影データから、前記検出部が検出した前記補完対象領域に対応する対応領域のデータを抽出するデータ抽出部と、
前記データ抽出部により抽出された前記対応領域のデータに基づく画像を、補正して前記表示部を通して使用者が視認している外景に重ねて表示させる表示制御部と、
を備えることを特徴とする請求項10記載の表示装置。 - 前記外景を撮影するカメラが、IRカメラ、暗視カメラ、または、サーモグラフィーカメラであること、
を特徴とする請求項9または10記載の表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014151944A JP2016031373A (ja) | 2014-07-25 | 2014-07-25 | 表示装置、表示方法、表示システム、及び、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014151944A JP2016031373A (ja) | 2014-07-25 | 2014-07-25 | 表示装置、表示方法、表示システム、及び、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016031373A true JP2016031373A (ja) | 2016-03-07 |
Family
ID=55441817
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014151944A Pending JP2016031373A (ja) | 2014-07-25 | 2014-07-25 | 表示装置、表示方法、表示システム、及び、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016031373A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210303251A1 (en) * | 2020-03-30 | 2021-09-30 | Seiko Epson Corporation | Display system, information processing device, display control method of display system |
-
2014
- 2014-07-25 JP JP2014151944A patent/JP2016031373A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210303251A1 (en) * | 2020-03-30 | 2021-09-30 | Seiko Epson Corporation | Display system, information processing device, display control method of display system |
CN113467731A (zh) * | 2020-03-30 | 2021-10-01 | 精工爱普生株式会社 | 显示系统、信息处理装置和显示系统的显示控制方法 |
US11494149B2 (en) * | 2020-03-30 | 2022-11-08 | Seiko Epson Corporation | Display system, information processing device, display control method of display system |
CN113467731B (zh) * | 2020-03-30 | 2023-06-02 | 精工爱普生株式会社 | 显示系统、信息处理装置和显示系统的显示控制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10306217B2 (en) | Display device, control method for display device, and computer program | |
US9898868B2 (en) | Display device, method of controlling the same, and program | |
JP6232763B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6089705B2 (ja) | 表示装置、および、表示装置の制御方法 | |
US9836120B2 (en) | Display device, method of controlling the same, and computer program | |
US20150168729A1 (en) | Head mounted display device | |
JP6459380B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
CN105739095B (zh) | 显示装置以及显示装置的控制方法 | |
JP6492531B2 (ja) | 表示装置、及び、表示装置の制御方法 | |
JP6094305B2 (ja) | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 | |
US9870048B2 (en) | Head-mounted display device, method of controlling the same, and computer program | |
US10082671B2 (en) | Head-mounted display, method of controlling head-mounted display and computer program to measure the distance from a user to a target | |
JP6432197B2 (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP2015046092A (ja) | 画像処理装置とこれを有する頭部装着型表示装置 | |
US20160021360A1 (en) | Display device, method of controlling display device, and program | |
US20160035137A1 (en) | Display device, method of controlling display device, and program | |
JP6428024B2 (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP6252002B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP2016033763A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP2016212320A (ja) | 表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2016109710A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP6582374B2 (ja) | 表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2016031373A (ja) | 表示装置、表示方法、表示システム、及び、プログラム | |
JP6304415B2 (ja) | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 | |
JP2016034091A (ja) | 表示装置、表示装置の制御方法、および、プログラム |