JP2014132718A - 表示装置、および、表示装置の制御方法 - Google Patents

表示装置、および、表示装置の制御方法 Download PDF

Info

Publication number
JP2014132718A
JP2014132718A JP2013000362A JP2013000362A JP2014132718A JP 2014132718 A JP2014132718 A JP 2014132718A JP 2013000362 A JP2013000362 A JP 2013000362A JP 2013000362 A JP2013000362 A JP 2013000362A JP 2014132718 A JP2014132718 A JP 2014132718A
Authority
JP
Japan
Prior art keywords
information
display device
image
unit
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013000362A
Other languages
English (en)
Other versions
JP6155643B2 (ja
Inventor
Shinichi Kobayashi
伸一 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013000362A priority Critical patent/JP6155643B2/ja
Priority to US14/141,008 priority patent/US9459456B2/en
Priority to CN201410003694.4A priority patent/CN103913842B/zh
Publication of JP2014132718A publication Critical patent/JP2014132718A/ja
Application granted granted Critical
Publication of JP6155643B2 publication Critical patent/JP6155643B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Studio Devices (AREA)

Abstract

【課題】旧来の媒体と同様に使い勝手に優れ、かつ情報の即時的な提供を可能とする表示装置、および、表示装置の制御方法を提供する。
【解決手段】頭部装着型表示装置HMは、使用者が視認可能な情報を検出する媒体認識部152と、使用者に視認可能に表示を行う表示手段と、媒体認識部152により検出された情報の少なくとも一部に重ねて、当該情報に対応する新たな情報を表示手段により表示させる更新処理部154と、を備える。
【選択図】図3

Description

本発明は、表示装置、および、表示装置の制御方法に関する。
従来、新聞や雑誌等の既存の媒体に代わってニュース等のコンテンツを提供する方法が提案されている(例えば、特許文献1、2参照)。特許文献1、2記載のシステムは、インターネット等の通信回線を介して新聞の記事を配信し、購読者が情報端末のディスプレイ等により記事を読むよう構成される。
特開2001−265723号公報 特開2005−18794号公報
この種のシステムは、雑誌や新聞等の旧来の媒体に比べて、最新の情報を即時的に提供できるという利点がある。その一方で、多数の情報を一覧できる、携帯性に優れ紛失しても経済的損失が少ない、情報を見られるようになるまでの待ち時間が短い、等の点においては、情報端末のディスプレイよりも旧来の媒体である雑誌や新聞の方が優れており、両方の利点を満たす情報提供の方法は無かった。
本発明は、上述した事情に鑑みてなされたものであり、旧来の媒体と同様に使い勝手に優れ、かつ情報の即時的な提供を可能とする表示装置、および、表示装置の制御方法を提供することを目的とする。
上記目的を達成するために、本発明は、使用者が視認可能な情報を検出する検出手段と、前記使用者が視認可能に表示を行う表示手段と、前記検出手段により検出された情報の少なくとも一部に重ねて、当該情報に対応する別の情報を前記表示手段により表示させる制御手段と、を備えることを特徴とする。
本発明によれば、使用者が視認する情報に重なるように、その情報に対応する別の情報を表示する。これにより、使用者が視認する情報を表示装置によって変更または更新することが可能になるため、使用者が視認可能な範囲に存在する情報そのものを変更しなくても、使用者に異なる情報を提供できる。従って、例えば古い情報を最新の情報に更新するといった動作が可能となるので、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示し、かつ、情報の即時的な提供が可能となる。
また、上記目的を達成するために、本発明は、外景に重ねて視認される画像を表示する表示手段と、前記外景として視認される媒体を検出する媒体検出手段と、前記表示手段により、前記媒体に記録された情報の少なくとも一部に重ねて、この重ねられる領域の前記情報に対応する新たな情報を配置して表示させる制御手段と、を備えることを特徴とする。
本発明によれば、媒体に記録された情報の少なくとも一部に新しい情報を重ねて表示し、重ねて配置される情報は、重ねられる情報に対応する新たな情報である。このため、例えば雑誌や新聞等の媒体に記録された情報が最新の情報に更新されたかのように、情報を表示できる。これにより、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示することができ、かつ情報の即時的な提供が可能となる。
また、本発明は、上記表示装置であって、前記媒体に記録された情報の属性を判定する属性判定手段と、前記表示手段により前記新たな情報が重ねられる対象の前記情報の属性に基づいて、前記情報に対応する前記新たな情報を取得する情報取得手段と、を備え、前記制御手段は、前記情報取得手段により取得された前記新たな情報を前記表示手段により表示させることを特徴とする。
本発明によれば、媒体に記録された情報の属性を表示装置が判定し、隠される情報に関連する新たな情報を表示できる。
また、本発明は、上記表示装置であって、前記制御手段は、前記属性判定手段により判定された情報の属性に基づいて、前記媒体に記録された情報から更新対象の情報を選択することを特徴とする。
本発明によれば、媒体に記録された情報の属性に基づいて隠される情報を選択できるので、媒体に複数の情報が記録されている場合に適切に情報を選択して、新たな情報を提供できる。
また、本発明は、上記表示装置であって、前記制御手段は、前記媒体に記録された情報のうち、前記情報取得手段により前記新たな情報を取得可能な情報を前記更新対象の情報として選択することを特徴とする。
本発明によれば、媒体に複数の情報が記録されている場合に、対応する新しい情報が取得可能なものを選択するので、例えば新たな情報の提供が可能な場合に、媒体の情報を隠すので、適切に情報を選択して最新の情報を提供できる。
また、本発明は、上記表示装置であって、前記制御手段は、前記媒体の情報を隠す領域の形状及びサイズに合わせて新たな情報を配置することを特徴とする。
本発明によれば、隠される情報の周辺に記録されている他の情報の視認性を損なうことなく、適切に最新の情報を提供できる。
また、本発明は、上記表示装置であって、頭部装着型の表示装置として構成され、前記媒体検出手段は前記表示手段が表示する画像に重なる範囲の外景を撮影する撮影手段と、前記撮影手段により撮影された撮影画像から前記媒体を検出する画像処理手段とを備えることを特徴とする。
本発明によれば、頭部に装着された表示装置によって、装着者が見ている媒体の情報に重ねて最新の情報を自動的に提供でき、利便性のさらなる向上を図ることができる。
また、本発明は、上記表示装置であって、使用者に画像を視認させる頭部装着型表示装置であり、前記表示手段は、表示用画像データを用いて画像を表す画像光を生成し射出させる画像光生成部と、射出された前記画像光を前記使用者の眼に導く光学部材と、を含み、前記外景の光は前記光学部材を透過して前記画像光とともに前記使用者の眼に入射することを特徴とする。
本発明によれば、光学部材により使用者の眼に画像光を導くとともに、この光学部材を透過して外景の光を使用者の眼に導く頭部装着型の表示装置によって、外景として視認される情報に重なるように新たな情報を表示できる。これにより、使用者が視認する情報を表示装置によって更新し、使用者に様々な情報を提供できる。
また、上記目的を達成するために、本発明は、使用者が視認可能な情報を検出し、検出された情報の少なくとも一部に重ねて、当該情報に対応する別の情報を、前記使用者が視認可能に表示を行う表示手段によって表示させること、を特徴とする。
本発明によれば、使用者が視認する情報に重なるように、その情報に対応する別の情報を表示する。これにより、使用者が視認する情報を表示装置によって変更または更新することが可能になるため、使用者が視認可能な範囲に存在する情報そのものを変更しなくても、使用者に異なる情報を提供できる。従って、例えば古い情報を最新の情報に更新するといった動作が可能となるので、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示し、かつ、情報の即時的な提供が可能となる。
また、上記目的を達成するために、本発明は、外景に重ねて視認される画像を表示する表示手段を備えた表示装置の制御方法であって、前記外景として視認される媒体を検出し、前記表示手段により、前記媒体に記録された情報の少なくとも一部に重ねて、この重ねられる領域の前記情報に対応する新たな情報を配置して表示させること、を特徴とする。
本発明によれば、媒体に記録された情報の少なくとも一部に新しい情報を重ねて表示し、重ねて配置される情報は、重ねられる情報に対応する新たな情報である。このため、例えば雑誌や新聞等の媒体に記録された情報が最新の情報に更新されたかのように、情報を表示できる。これにより、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示することができ、かつ情報の即時的な提供が可能となる。
本発明によれば、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示し、かつ情報の即時的な提供を行うことができる。
本発明の実施形態に係る頭部装着型表示装置の外観図である。 頭部装着型表示装置の光学系の概略構成を示す図である。 頭部装着型表示装置の制御系の機能ブロック図である。 頭部装着型表示装置の動作を示すフローチャートである。 頭部装着型表示装置が情報を更新表示する動作の説明図であり、(A)は処理対象の媒体が視認される状態を示し、(B)は媒体を認識する動作例を示す。 頭部装着型表示装置が情報を更新表示する動作の説明図であり、(A)は情報を更新する案内が表示された状態を示し、(B)は情報が更新された状態を示す。
以下、図面を参照して本発明の実施形態について説明する。
図1は、本発明の実施形態に係る頭部装着型表示装置の外観図である。
頭部装着型表示装置HMは、ユーザー(使用者)の頭部に装着される頭部装着型表示装置であり、ヘッドマウントディスプレイ(HMD:Head Mounted Display)と呼ばれる。本実施形態の頭部装着型表示装置HMは、ユーザーが、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。
図1に示すように、頭部装着型表示装置HMは、ユーザーの頭部に装着される画像表示部20と、画像表示部20を制御する制御装置10とを備えている。画像表示部20は、右保持部21、右表示駆動部22、左保持部23、左表示駆動部24、右光学像表示部26および左光学像表示部28を備えている。
右光学像表示部26および左光学像表示部28は、それぞれユーザーの右眼および左眼の眼前に位置し、ユーザーの眉間に対応する位置で相互に接続されて一体となっている。右光学像表示部26の端部ERからは右保持部21が延伸し、左光学像表示部28の端部ELからは左保持部23が延伸している。
右保持部21は、ユーザーの右側頭部の側方に位置し、その先端はユーザーの右耳に係合する。また、左保持部23はユーザー左側頭部の側方に位置し、その先端はユーザーの左耳に係合する。これら右保持部21および左保持部23の先端と、右光学像表示部26および左光学像表示部28の接合部の下端に設けられた鼻当て部とによって頭部装着型表示装置HMが支持される。
右保持部21の基端部には右表示駆動部22が内蔵され、左保持部23の基端部には左表示駆動部24が内蔵される。これら右表示駆動部22および左表示駆動部24により、頭部装着型表示装置HMはユーザーの右眼と左眼の各々に画像を視認させる。
右光学像表示部26および左光学像表示部28の前面側すなわち表面側には、調光板20Aが設けられている。調光板20Aは右光学像表示部26および左光学像表示部28に対し着脱可能であり、複数種類の調光板20Aを交換して装着できる。調光板20Aは薄板状の光学素子であり、光透過性がほぼゼロのもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰または反射するもの等、種々のものを用いることができ、調光板20Aの光学特性を適宜選択することにより、外部から右光学像表示部26および左光学像表示部28に入射する外光の光量を調整できる。本実施形態では、少なくとも、頭部装着型表示装置HMを装着したユーザーが外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは、後述する右導光板261(光学部材)、左導光板262(光学部材)を損傷や、汚れの付着等から保護する機能も有する。
また、頭部装着型表示装置HMの前面において右光学像表示部26と左光学像表示部28の境目部分には、カメラ61(撮影手段)が配置されている。カメラ61の位置は頭部装着型表示装置HMの前面のほぼ中央であり、ユーザーの左右の眼の中間位置となっている。
カメラ61の撮影方向すなわち画角は、頭部装着型表示装置HMの表側方向、換言すれば、頭部装着型表示装置HMを装着した状態におけるユーザーの視界方向の少なくとも一部の外景を撮像する方向となっている。好ましくは面262Aを通してユーザーが視認する範囲の外景を撮影する方向である。また、より好ましくは、面262Aを通してユーザーに視認される範囲を含み、この範囲より広い範囲を撮影する。すなわち、調光板20Aを通したユーザーの視界の全体を撮影できることが望ましい。
カメラ61は、静止画像の間欠撮影または動画像を撮影して撮影画像データを出力する。なお、本実施形態においてカメラ61は、1つのデジタルカメラとして例示するが、複数のデジタルカメラからなるステレオビデオカメラを採用してもよい。
図2は、画像表示部20における光学系の概略構成を示す図である。この図2には、ユーザーの左眼LEに虚像を視認させる左表示駆動部24および左導光板262の構成を平面図により示す。ユーザーの左眼と右眼に虚像を視認させる各構成は左右対称であるため、ここでは左表示駆動部24および左導光板262についてのみ説明する。
画像表示部20の左表示駆動部24は、LED等の光源と拡散板とを有する左バックライト222、左バックライト222の拡散板から発せられる光の光路上に配置される透過型の左LCD(Liquid Crystal Display:液晶ディスプレイ)242、および、左LCD242を透過した画像光Lを導くレンズ群等を備えた左投写光学系252を備えている。
左投写光学系252は、左LCD242から射出された画像光Lを並行状態の光束にするコリメートレンズによって構成される。左投写光学系252を経た画像光Lは左導光板262に入射する。左導光板262は画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは左導光板262の内部において複数回の反射を経て左眼LE側に導かれる。そして、左眼LEの眼前に位置する面262Aで反射した画像光Lは左眼LEに向けて右光学像表示部26から射出され、この画像光Lが左眼LEの網膜に像を結び、ユーザーに画像を視認させる。
なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。この導光部は、画像光を用いてユーザーの眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
面262Aはハーフミラーで構成される。このため、ユーザーの左眼LEには、面262Aで反射した画像光Lだけでなく、調光板20Aを透過した外光OLが入射する。つまり、頭部装着型表示装置HMは、内部で処理した画像の画像光Lと外光OLとを重ねてユーザーの眼に入射させ、ユーザーにとっては、頭部装着型表示装置HMの調光板20Aを透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。このため、頭部装着型表示装置HMは、シースルー型の表示装置であるということができる。
頭部装着型表示装置HMのユーザーの両眼に導かれた画像光Lがユーザーの網膜に結像することにより、ユーザーは虚像を視認する。ここで、ユーザーにとっての外景と虚像の視認性は外光OLと画像光Lの光量のバランスに影響され、外光OLの光量が画像光Lよりも大きい場合には外景がよく見える一方で頭部装着型表示装置HMが処理(表示)する虚像の視認性は低い。反対に、画像光Lの光量が外光OLに比べて大きい場合は、頭部装着型表示装置HMが処理(表示)する虚像の視認性が高いのに対し、外景の視認性は低い。
図1に戻り、頭部装着型表示装置HMは、画像表示部20を制御装置10に接続する接続部40を有している。接続部40は、制御装置10に接続される本体コード48と、本体コード48から連結部材46を介して分岐する2本の右コード42および左コード44とを有する。右コード42は、右保持部21の筐体内に挿入され、右表示駆動部22に接続される。左コード44は、左保持部23の筐体内に挿入され、左表示駆動部24に接続される。
画像表示部20と制御装置10とは、接続部40を介して各種信号の伝送を行う。右コード42、左コード44、および本体コード48には、例えば、金属ケーブルや、光ファイバーを採用することができる。
制御装置10は、頭部装着型表示装置HMを操作するための装置である。制御装置10は、点灯部12と、タッチパッド14と、十字キー16と、電源スイッチ18とを含んでいる。
点灯部12は、LED等からなるインジケーターを備え、頭部装着型表示装置HMの動作状態(例えば、電源のON/OFF等)を、その発光状態によって通知する。タッチパッド14は、ユーザーの指による接触操作を検出して、検出内容に応じた信号を出力する。十字キー16は、上下左右方向に対応するキーであり、押下操作に応じた信号を出力する。電源スイッチ18は、頭部装着型表示装置HMの電源状態を切り替えるスイッチである。
図3は、頭部装着型表示装置HMの制御系の構成を示す機能ブロック図である。
制御装置10は、入力情報取得部110と、記憶部120と、電源130と、制御部140と、通信インターフェイス185と、送信部(Tx)51、52と、を備える。前述の各部はバス(図示省略)により相互に接続されている。
入力情報取得部110は、例えば、タッチパッド14、十字キー16、電源スイッチ18等による入力に応じた信号を取得する。記憶部120は、半導体メモリー素子や磁気的記憶装置等によりプログラムやデータを記憶する。電源130は、例えば2次電池を備え、頭部装着型表示装置HMの各部に電力を供給する。
制御部140は、CPU、ROM、RAM等を備え、ROMまたは記憶部120に記憶されたプログラムを実行することにより、頭部装着型表示装置HMの各部を制御する。制御部140は、上記プログラムを実行することにより、媒体認識部152(媒体検出手段、属性判定手段、画像処理手段)、更新処理部154(制御手段)、更新情報取得部156(情報取得手段)、画像処理部160、音声処理部170、表示制御部190としても機能する。
画像処理部160は、通信インターフェイス185を介して入力されるコンテンツ等に基づいて画像表示部20に供給する信号を生成し、画像表示部20へ送信する。画像処理部160は、通信インターフェイス185を介してアナログ信号が入力された場合には、A/D変換処理を行ってデジタル画像データ(Data)を生成し、クロック信号(PCLK)と、垂直同期信号(VSync)と、水平同期信号(HSync)とともに出力する。また、画像処理部160は、デジタル画像データが通信インターフェイス185に入力された場合、フレームレートの変換や解像度変換等の各種処理を行って、処理後のデジタル画像データをクロック信号、垂直同期信号および水平同期信号を出力する。
画像処理部160が出力する信号は送信部51を介して画像表示部20の右表示駆動部22に入力され、送信部52を介して左表示駆動部24に入力される。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFFや、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFFや、左バックライト制御部202による左バックライト222の駆動ON/OFF、などを個別に制御することにより、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号を、送信部51および52を介してそれぞれ送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号を、それぞれ送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、画像表示部20の右イヤホン32および左イヤホン34に対し、接続部40を介して供給する。
通信インターフェイス185は、外部の通信回線5に接続され、この通信回線5を介して外部のサーバー6との間で通信を実行する。通信インターフェイス185は、制御部140の制御に従ってサーバー6との間で各種データを送受信する。通信インターフェイス185と通信回線5との間、および通信回線5を構成する具体的な通信回線は、有線であっても無線であってもよい。
また、通信インターフェイス185は、パーソナルコンピューター、携帯電話端末、ゲーム機、DVDプレイヤー等の映像再生機器などの外部の機器に接続され、これらの各機器から入力される各種コンテンツのアナログ映像信号または画像データを、表示制御部190に出力する。通信インターフェイス185は上記機器と有線接続されるコネクターやインターフェイス回路、或いは、無線LANやBluetooth(登録商標)等の近距離無線通信インターフェイスを備えていてもよい。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、右イヤホン32と、左イヤホン34とを備えている。
右表示駆動部22は、受信部(Rx)53と、右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを備える。
受信部53は、送信部51から入力される信号を受信する。右バックライト制御部201は、受信部53に入力された制御信号に基づいて、右バックライト221を駆動する。右LCD制御部211は、受信部53に入力されたクロック信号と、垂直同期信号と、水平同期信号と、右眼用の画像データとに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルであり、右LCD制御部211により駆動されて各種画像を描画する。
同様に、左表示駆動部24は、受信部(Rx)54と、左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD242および左LCD242と、左投写光学系252とを備える。
なお、右バックライト制御部201、右LCD制御部211、右バックライト221、および右LCD241を総称して右側の「画像光生成部」と呼び、左バックライト制御部202、左LCD制御部212、左バックライト222、および左LCD242を総称して、左側の「画像光生成部」と呼ぶ。また、右保持部21および左保持部23を総称して単に「保持部」と、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」と、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
そして、これら表示駆動部と、画像光生成部とによって本発明の表示手段が構成される。表示手段には、光学像表示部を含んでもよいし、導光部を含んでもよい。
受信部54は、送信部52から入力される信号を受信する。左バックライト制御部202は、受信部54に入力された制御信号に基づいて、左バックライト222を駆動する。左LCD制御部212は、受信部54に入力されたクロック信号と、垂直同期信号と、水平同期信号と、左眼用の画像データとに基づいて、左LCD242を駆動する。左LCD242は、複数の画素をマトリクス状に配置した透過型液晶パネルであり、左LCD制御部212により駆動されて各種画像を描画する。
以下の説明では、頭部装着型表示装置HMによりユーザーが視認する虚像を「画像」と呼ぶ。この画像は、右LCD241、左LCD242に形成される画像がユーザーの網膜に結像して認識されるものである。また、頭部装着型表示装置HMがユーザーに虚像を視認させることを「表示」と呼ぶ。
制御部140は、通信インターフェイス185から入力される各種コンテンツの画像を画像表示部20によって表示し、音声を含むコンテンツの画像を表示する場合は画像の表示とともに右イヤホン32、34から音声を出力する。これにより、ユーザーは各種映像コンテンツを視聴できる。
また、頭部装着型表示装置HMは、情報が可視的に記録された媒体がカメラ61の撮影画角内に存在する場合に、この媒体に記録された情報を認識し、媒体に記録された情報に対応する新しい情報を表示する機能を有する。ここで、媒体とは、例えば、新聞、雑誌、書籍等の印刷物が挙げられ、印刷物を構成する紙やシートの枚数や製本形態等は問わない。また、画像を表示面に表示する表示装置の表示面を媒体とすることもできる。
制御部140が備える媒体認識部152は、媒体認識部152は、カメラ61の撮影画像データから上記媒体を検出し、検出した媒体に記録されている情報を認識する。媒体認識部152は、検出した媒体に複数の情報が記録されている場合には、これら複数の情報を所定の単位で分離し、分離した各情報を個別に認識できる。さらに、媒体認識部152は、認識した情報のうちの複数がひとまとまりの情報を構成している場合には、これらの情報をまとめて一つの情報として認識できるものとしてもよい。
また、媒体認識部152は、認識した各情報の属性を特定できるものとしてもよい。この属性とは、主に情報の内容の属性であり、例えば情報の分野(ジャンル)、即時性の重要度(即時性が重要視される情報か否か)等である。さらに、媒体認識部152は、撮影画像データから検出した媒体そのものの属性を認識できる構成としてもよく、この場合の属性は、例えば媒体の種類(雑誌、書籍、新聞、その他の印刷物)であってもよいし、媒体の更新に係る属性(定期刊行物か否か)であってもよく、その他の属性としてもよい。
媒体認識部152は、認識した各情報の内容に基づく属性に限らず、認識した各情報をコンテンツとして識別し、コンテンツの属性を特定できるものとしてもよい。また、媒体を一つのコンテンツとして認識し、媒体の属性を特定してもよい。例えば、媒体認識部152は、認識したコンテンツの決済、配信、或いは流通面における属性を特定してもよい。より具体的には、媒体認識部152は、コンテンツとしての媒体またはコンテンツとしての情報が掲載された媒体について、雑誌名、書籍名、発行者名、発行時期または発行日、発行された場所や地域等の属性を特定してもよい。また、例えば、媒体認識部152は、頭部装着型表示装置HMのユーザーが、認識したコンテンツに係る権利を有しているかを認証する機能を有し、認証に成功したか否かを一つの属性として認識してもよい。この場合、媒体認識部152は、頭部装着型表示装置HMのユーザーが行ったコンテンツの決済履歴に関する情報等に基づき、ユーザーが永続的な、或いは期間限定の視聴権や利用権を購入したコンテンツか否かを特定する。
媒体認識部152は、上述したコンテンツの決済、配信、或いは流通面における属性を特定するための情報、当該コンテンツに係る利用権等の決済を行うための情報、及び、決済の履歴に関する情報等を外部から取得してもよい。これらの情報は、後述するサーバー6から取得してもよいし、予め内蔵する記憶部120に記憶していてもよいし、媒体に付されたバーコード等に基づき読み取ってもよいし、媒体に付されたICタグを読取装置(図示略)により読み取ることで取得してもよい。
媒体認識部152は、上述した各種の属性のうち1または複数の属性のみを特定してもよいし、全ての属性を特定するものであってもよい。
制御部140が備える更新処理部154は、媒体認識部152が認識した各情報に対応する新しい情報(本実施形態では「更新情報」と呼ぶ)が存在するか否かを判定する。すなわち、更新処理部154は、更新情報取得部156によって更新情報の取得を試行させる。更新情報取得部156は、媒体認識部152が特定した媒体の属性および/又は各情報の属性に基づいて、サーバー6にアクセスし、サーバー6が保持している情報の中に該当する情報がある場合には、この情報を更新情報として取得する。更新情報取得部156は、サーバー6から更新情報を取得した結果を更新処理部154に出力する。更新処理部154は、更新情報取得部156が出力する結果に基づいて、媒体認識部152が認識した各情報に対応する更新情報の有無を判定する。更新処理部154は、更新情報を取得できた場合、そのもとになった情報を、更新対象の情報とする。つまり、更新処理部154は、実質的に更新対象の情報を属性に基づき選択することになり、選択された情報が後述するように更新される。
サーバー6には、新聞や雑誌を発行する発行者としての出版社、放送局、情報配信を業務とする情報配信元等が提供する各種情報が逐次記憶されており、これらの情報を属性に基づいて検索し、取得可能となっている。通信インターフェイス185が通信回線5を介してアクセス可能なサーバー6は一つに限らず、複数のサーバー6を利用することも勿論可能である。また、通信回線5を、例えばインターネットのようなオープンなネットワークとし、頭部装着型表示装置HMによる利用を前提としていないウェブサーバー等をサーバー6として利用することもできる。この場合、更新情報取得部156は、インターネットを介して利用可能な検索エンジンを利用し、媒体認識部152が認識した情報の属性、または属性に対応する文字列等を検索キーとして検索を実行し、検索結果に基づいて情報を取得してもよい。さらに、サーバー6が、インターネットを介して取得可能な情報を他のサーバーから自律的に収集する構成としてもよい。このように、サーバー6の具体的構成について制限はなく、頭部装着型表示装置HMがデータ通信を行うことにより情報を取得可能なものであればよい。
更新処理部154は、媒体認識部152により認識された情報のうち、更新情報が取得された情報について、更新対象に設定する。更新処理部154は、媒体に記録されている更新対象の情報が視認される位置(領域)に重なるように、情報を隠すマスク画像を生成し、この画像に更新情報を重畳した画像を生成して、表示制御部190に出力する。すなわち、更新処理部154は、更新対象の情報に重なるように、この更新対象の情報に対応する更新情報を配置する。更新対象の情報に重ねて配置され表示される更新情報は、テキストや画像等の情報そのものであってもよい。また、更新対象の情報を隠すような態様であってもよい。本実施形態では、更新情報は、マスク画像に重畳された重畳画像となっている。
マスク画像は、画像表示部20を通してユーザーが視認する外景の中で更新対象の情報の視認性を低下させる画像であり、例えば、明度の高い色で塗りつぶされた画像である。更新処理部154は、マスク画像が更新対象でない情報の視認性を損なわないように、マスク画像の位置および大きさを決定する。記憶部120には、例えばマスク画像の色や模様等を指定するデータまたはマスク画像に使用できる画像データ自体で構成されるマスク画像データ126が記憶されており、更新処理部154はマスク画像データ126を利用して、マスク画像を生成する。
このように、本実施形態で表示される更新情報は、マスク画像に重畳された画像となっている。このため、ユーザーが視認する媒体上の情報に重ねて更新情報を配置した場合、媒体上の更新対象の情報は見えなくなる。ここで、更新対象の情報が見えるように、マスク画像を含まない更新情報のみを、更新対象の情報に重なるように配置して表示してもよい。また、更新情報そのものが、表示された場合に媒体上の更新対象の情報の視認性を低下させるような態様のテキストや画像等の情報であってもよいし、更新対象の情報の視認性を低下させずに表示される情報であってもよい。
以下、具体的な表示例を示しながら頭部装着型表示装置HMの動作について説明する。
図4は、頭部装着型表示装置HMの動作を示すフローチャートであり、特に、媒体に可視的に記録された情報を更新表示する動作を示す。
図5および図6は、頭部装着型表示装置HMが情報を更新表示する動作の説明図である。図5(A)は処理対象の媒体が視認される状態を示し、図5(B)は媒体を認識する動作例を示し、図6(A)は情報を更新する案内が表示された状態を示し、図6(B)は情報が更新された状態を示す。図5(A)、図6(A)および図6(B)は、ユーザーが視認する像として示したものである。
図5(A)、(B)及び図6(A)、(B)には媒体の一例として横書きの新聞を示す。当然のことながら、媒体における情報の配置や記述方向は図示の例に限定されない。情報が縦方向に配列された(縦書きの)媒体を処理対象とすることも勿論可能である。
図5および図6中の符号VAは、頭部装着型表示装置HMを装着したユーザーの視野(視界)を示し、DAは画像表示部20による表示可能領域を示す。表示可能領域DAは、画像光Lにより画像が視認される範囲を指し、右LCD241および左LCD242の表示可能範囲、右バックライト221および左バックライト222のサイズ、右投写光学系251、左投写光学系252、右導光板261、および左導光板262の光学特性等により決定される。本実施形態では視野VAのほぼ中央に矩形の表示可能領域DAが存在する。頭部装着型表示装置HMは、表示可能領域DAの中において画像を表示できる。
タッチパッド14(図1)や十字キー16(図1)の操作によって情報の更新表示が指示されると、図4のステップS11で、制御部140が情報を更新表示する処理を開始し、カメラ61により撮影が実行され、ステップS12で媒体認識部152が撮影画像データから媒体を検出する。次のステップS13で、媒体認識部152は、検出した媒体に記録されている情報を認識する。
図5(A)の例では、表示可能領域DAにほぼ重なる位置に、媒体としての新聞350が視認されている。媒体の位置は表示可能領域DAと完全に重なる必要はないが、少なくとも一部が表示可能領域DAに重なっていることが望ましい。新聞350の紙面には、新聞350の名称351、および、新聞350の属性(名称、発行者名、発行年月日、紙面構成またはページ等)またはこれらの属性に対応するコード番号等を示すQR(登録商標)コード352が印刷されており、このほかに複数の記事が印刷されている。すなわち、見出し353、記事本文354および画像355で構成される第1の記事371と、見出し356、記事本文357および画像358で構成される第2の記事372と、見出し359および記事本文360で構成される第3の記事373とが印刷されている。
媒体認識部152は、カメラ61が視野VAを含む範囲を撮影した撮影画像データから、新聞350全体の画像を抽出する。そして、媒体認識部152は、図5(B)に破線で示すように、名称351、QRコード352、見出し353、356、359、記事本文354、357、360および画像355、358をそれぞれ認識する。この認識のアルゴリズムは任意の公知のものを採用することができる。例えば、新聞350の画像を構成する各画素のRGBデータに基づいて文字や画像を構成する画素を検出し、文字認識処理や画像抽出処理等を組み合わせることで実現可能である。さらに、媒体認識部152は、名称351、QRコード352、見出し353、356、359、記事本文354、357、360および画像355、358の組み合わせを認識して、第1の記事371、第2の記事372および第3の記事373を認識する。ここで、媒体認識部152は、QRコード352を復号して文字列を得るようにしてもよい。
なお、新聞350において、媒体認識部152が第1の記事371、第2の記事372および第3の記事373の境界を認識しやすいように、枠線を印刷したり、見出し353、356、359、記事本文354、357、360および画像355、358にバーコードや記号を添えて印刷したりしてもよい。
図4のステップS14で、媒体認識部152は、検出した媒体の属性、および、認識した各情報の属性を特定する。例えば、図5(B)に示すように認識した見出し353、356、359および記事本文354、357、360に含まれる文字列を認識して、認識した文字列を、予め記憶部120に記憶した属性判定用のデータベースと照合することで、各見出し353、356、359および記事本文354、357、360の属性を特定できる。また、例えば、画像355、358の特徴を示す特徴量を算出し、この特徴量を、予め記憶部120に記憶した属性判定用のデータベースと照合することで、各画像355、358の属性を特定できる。そして、これら見出し353、356、359、記事本文354、357、360および画像355、358の属性に基づき、第1の記事371、第2の記事372および第3の記事373の属性を特定できる。また、例えば、新聞350の名称や、QRコード352を復号して得た文字列等を上記データベースと照合する方法や、見出し353、356、359、記事本文354、357、360および画像355、358の各属性、配置、見出しや画像の数等に基づき、新聞350の属性を特定できる。また、新聞350において、QRコード352として符号化された文字列が新聞350の属性を示す情報であってもよく、第1の記事371、第2の記事372および第3の記事373の属性を示す情報が、QRコードやバーコードとして見出し353、356、359に添付されていてもよい。この場合、媒体認識部152は、これらのQRコードやバーコードを復号することで、新聞350の属性や各記事の属性を特定できる。さらに、このステップS14で、媒体認識部152は、上述したように、認識した媒体や各情報の決済、配信、或いは流通面における属性を特定してもよい。
図4のステップS15で、更新情報取得部156は、媒体認識部152が認識した情報毎に、各情報の属性に基づいて更新情報の取得を試み、取得結果を更新処理部154に出力する。更新処理部154が更新情報を取得する情報の単位は、媒体認識部152が決定した単位である。例えば図5(A)、(B)の例では、第1の記事371、第2の記事372および第3の記事373の各々について更新情報を取得する。
ステップS16で、更新処理部154は、更新情報取得部156が出力した取得結果に基づき、更新情報の有無を判定する。ここで、更新処理部154が、更新情報が全く取得されなかったと判定した場合(ステップS16;No)、制御部140は本処理を終了する。
一方、更新情報取得部156が更新情報を取得したと判定した場合(ステップS16;Yes)、更新処理部154はステップS17に移行し、一つの更新情報について、この更新情報に対応する更新対象の情報の領域を特定する。すなわち、更新処理部154は、撮影画像データにおける更新対象の情報の位置を特定し、この位置に重なる表示可能領域DA中の領域を特定し、特定した領域に相当する右LCD241および左LCD242の画素を求める。これにより、更新対象の情報に重ねて更新情報を配置する画素が特定される。この特定された画素は、本実施形態では、更新対象の情報を隠すマスク画像を表示する画素として特定される。
ステップS18で、更新処理部154は、ステップS17で特定した画素に所定の色を表示させるマスク画像を生成する。ステップS19で、更新処理部154は、現在視認されている情報を更新する旨をユーザーに知らせるための案内画像の画像データを生成し、表示制御部190に出力して画像表示部20により表示させる。この案内画像は、ステップS18で生成したマスク画像に、案内用のメッセージ(文字列)を重畳した画像である。
図6(A)には、第2の記事372について更新情報を取得した場合の表示例である。図5(A)、(B)で第2の記事372が視認されていた領域に重なるように、案内画像362が表示されている。案内画像362は、マスク画像に案内のメッセージを重ねた画像であり、案内画像362の背景はマスク画像の色となっている。この色は、上述のように、調光板20Aおよび右導光板261、左導光板262を通して見える外景の視認性を低下させる色または光量となっている。案内画像362は、更新の対象でない第1の記事371や第3の記事373の視認性を低下させないように、そのサイズおよび位置が調整されている。なお、マスク画像の色を、新聞350の背景色(地の色)に合わせてもよい。
図4のステップS20で、更新処理部154は、ステップS15で取得された更新情報を構成する文字列や画像を、ステップS18で生成したマスク画像のサイズや形状に合わせてレイアウトして、更新情報を表示するための画像データを生成する。更新処理部154は、ステップS21で、生成した画像データを表示制御部190に出力して、表示させる。ここで、更新処理部154は、ステップS19で案内画像が表示されてから所定時間後に更新情報が表示されるように、画像データを表示制御部190に出力するタイミングを調整する。
図6(B)には、第2の記事372について更新情報が表示された例を示す。図6(A)で案内画像362が表示されていた位置に、第2の記事372に代わる第4の記事374が表示されている。第4の記事374は、マスク画像を背景とし、見出し364および記事本文365により構成される。見出し364および記事本文365の文字サイズ、1行の文字数、行数等は、マスク画像に合わせて設定されている。
この図6(B)に示すように、ユーザーには、第2の記事372(図5(A)、(B))の代わりに新しい第4の記事374が視認され、新聞350自体は古いものであっても、ユーザーは最新の情報を得ることができる。また、新聞350に実際に印刷されている第2の記事372はマスク画像により隠されるため、第4の記事374を良好に視認できる。
図4のステップS22で、更新処理部154は、更新情報取得部156がステップS15で取得した全ての更新情報を表示したか否かを判定し、全ての更新情報の処理が完了した場合は(ステップS22;Yes)、本処理を終了する。まだ表示されていない更新情報がある場合は(ステップS22;No)、ステップS17に戻り、次の更新情報を表示する処理を行う。
なお、ステップS15で更新情報取得部156が複数の更新情報を取得した場合、全ての更新情報についてまとめて処理することも可能である。この場合、更新処理部154は、ステップS17で全ての更新情報について更新対象の情報の領域を特定し、ステップS18で、全ての更新対象の領域を隠すマスク画像を生成する。ステップS20では、全ての更新情報を構成する文字列や画像を、マスク画像に合わせてレイアウトする。このステップS20で、更新処理部154は、更新対象の情報と更新情報との対応関係を乱さないようにレイアウトを行ってもよい。この場合、複数の情報がまとめて更新されるので、ユーザーが情報の更新を待つ時間を短縮できる。また、マスク画像を使用せず、更新情報のみを、媒体上の更新対象の情報に重なるように配置して表示する場合、複数の更新情報をつなげた大きい更新情報を生成してもよい。この場合、更新処理部154は、ステップS17で全ての更新情報について更新対象の情報の領域を特定し、ステップS18で、全ての更新対象の領域に重なるサイズ及び形状を有する画像を生成する。この画像には、複数の更新対象の情報に対応する複数の更新情報が含まれている。この場合も、複数の情報をまとめて更新することで待ち時間を短縮できる。
図4の動作を少なくとも一度実行し、更新情報が頭部装着型表示装置HMにより表示された状態で、再度、図4の動作を実行することも可能である。
この場合、更新処理部154は、ステップS12で媒体認識部152が検出した媒体が、前回までの動作のステップS12で検出した媒体と同じ媒体であるかどうかを判定し、異なる媒体であると判定した場合には上記と同様の動作を行う。
また、同じ媒体であると判定した場合、更新処理部154は、媒体認識部152によるステップS13〜S14の動作を省略させてもよい。例えば新聞350が同じものであれば、印刷されている記事は変化しないから、再度認識や属性の特定を行う必要はない。
その後、更新情報取得部156は、ステップS15で通信インターフェイス185によりサーバー6にアクセスして更新情報の取得を試行するが、前回までの動作のステップS15で取得した更新情報と同じ情報は取得しない。従って、更新情報取得部156は、サーバー6から取得しようとする更新情報が、既に取得した更新情報と同一か否かを判定する機能を有することが好ましい。
更新処理部154は、ステップS19において、更新を案内するメッセージをマスク画像に重ねて、案内画像の画像データを生成した場合に、この画像データを、現在表示されている画像データに重ねて表示する処理を実行させる。また、ステップS21においては、更新情報を含む画像データを生成した場合に、この画像データを、現在表示されている画像データに重ねて表示する処理を実行させる。これらの画像データを重畳する処理は、更新処理部154が行っても表示制御部190が行ってもよい。これにより、前回までの動作で表示された更新情報の表示を保持して、新たに取得された更新情報に対応する案内メッセージや更新情報を表示できる。
さらに、更新処理部154は、媒体認識部152がステップS13で認識した情報のうち、更新対象となり得る情報を予め選択し、選択した情報についてのみステップS15〜S21の処理を行ってもよい。この場合、更新処理部154は、媒体認識部152が特定した各情報の属性に基づいて情報を選択してもよい。この場合、例えば、更新すべきでない情報として設定された情報を、最新の情報でなくなっても更新せずに視認させることが可能である。さらに、更新すべきでない情報に関する設定をユーザーが行えるようにして、この設定に従って更新処理部154が情報を選択する構成とすれば、ユーザーが更新を望まない情報を、更新せずに維持することができる。
また、制御部140は、タッチパッド14や十字キー16の操作により情報更新の停止の指示が入力されるまで、図4の動作を所定時間毎に実行してもよい。この場合、所定時間毎に情報が更新されるので、ユーザーは最新の情報を取得できる。
また、頭部装着型表示装置HMにより認識される対象の媒体が、画像を表示面に表示する別の表示装置の表示面であり、この表示面に表示された情報に重なるように、新たな情報を頭部装着型表示装置HMが表示してもよい。例えば、媒体認識部152が表示面に表示された情報を認識して、この情報の属性、この情報を含む画面全体の属性、または、この情報を表示する表示装置の属性を特定し、更新処理部154が情報を取得して、表示を行ってもよい。この場合、ユーザーが頭部装着型表示装置HMを通して視認している表示装置に表示される情報が変わらなくても、頭部装着型表示装置HMが更新された情報を表示することで、ユーザーは最新の情報を視認できる。この場合、頭部装着型表示装置HMと、頭部装着型表示装置HMを通してユーザーが視認している別の表示装置とが通信を実行し、この別の表示装置が表示している情報の属性等を頭部装着型表示装置HMが取得してもよい。別の表示装置の具体的な構成としては、ノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューターのディスプレイ、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器が有するディスプレイ等を含んでもよい。
以上説明したように、本発明を適用した実施形態に係る頭部装着型表示装置HMは、外景に重ねて視認される画像を表示する表示手段と、外景として視認される媒体を検出する媒体認識部152と、表示手段により、媒体に記録された情報の少なくとも一部に重なるように、この重ねられる領域において前記媒体に記録された情報に対応する新たな情報を配置して表示させる更新処理部154と、を備える。これにより、媒体に記録された情報の少なくとも一部に重なるように、新しい情報を表示できる。このため、雑誌や新聞等の媒体に記録された情報に代えて最新の情報を表示できる。さらに、情報の表示形態が、媒体に新しい情報が記録されたように見えるという利点がある。これにより、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示することができ、かつ情報の即時的な提供が可能となる。さらにまた、上記実施形態では、媒体に記録された更新対象の情報を隠すようにマスク画像を利用して、更新対象の情報に対応する更新情報を配置して表示する。このため、更新対象の情報を、更新情報により置き換えて視認させることができる。
また、媒体認識部152は媒体に記録された情報の属性を判定し、表示手段により更新情報が重ねられる対象(更新対象)の情報の属性に基づいて、新たな情報を取得する更新情報取得部156を備え、更新処理部154は、更新情報取得部156により取得された新たな情報を表示手段により表示させる。これにより、更新情報を重ねて表示する場合に、重ねられる情報に関連する新たな情報を表示できる。
また、更新処理部154は、媒体認識部152により判定された情報の属性に基づいて、媒体に記録された情報から更新対象の情報を選択するので、媒体に複数の情報が記録されている場合に適切に情報を選択して、新たな情報を提供できる。
また、更新処理部154は、媒体に記録された情報のうち、更新情報取得部156により新たな情報を取得可能な情報を更新対象の情報として選択するので、例えば新たな情報の提供が可能な場合に、媒体の情報を隠すので、適切に情報を選択して最新の情報を提供できる。
また、更新処理部154は、媒体の情報を隠す領域の形状及びサイズに合わせて新たな情報を配置するので、隠される情報の周辺に記録されている他の情報の視認性を損なうことなく、適切に最新の情報を提供できる。
また、上記表示装置は頭部装着型の表示装置HMとして構成され、媒体認識部152は表示手段が表示する画像に重なる範囲の外景を撮影するカメラ61を備え、媒体認識部152は、カメラ61により撮影された撮影画像から媒体を検出するので、装着者が見ている媒体の情報に重ねて最新の情報を自動的に提供でき、利便性のさらなる向上を図ることができる。
また、頭部装着型表示装置HMの表示手段は、表示用画像データを用いて画像を表す画像光を生成し射出させる右表示駆動部22及び左表示駆動部24と、射出された画像光をユーザーの眼に導く右導光板261及び左導光板262と、を含み、外景の光は右導光板261及び左導光板262を透過して画像光とともにユーザーの右眼RE、左眼LEに入射する。
このため、右導光板261及び左導光板262により右眼RE、左眼LEに画像光を導くとともに、右導光板261及び左導光板262を透過して、外景の光を右眼RE、左眼LEに導く頭部装着型の表示装置によって、外景として視認される情報に重なるように新たな情報を表示できる。これにより、ユーザーが視認する情報を表示装置によって更新し、ユーザーに様々な情報を提供できる。
また、実施形態に係る頭部装着型表示装置HMは、ユーザーが視認可能な情報を媒体認識部152により検出し、検出した情報の少なくとも一部に重ねて、当該情報に対応する別の情報を、ユーザーが視認可能に表示を行う表示手段により表示させる。これにより、ユーザーが視認する情報を表示装置によって変更または更新することが可能になるため、ユーザーが視認可能な範囲に存在する情報そのものを変更しなくても、ユーザーに異なる情報を提供できる。
そして、本発明は、ユーザーの頭部に装着される頭部装着型表示装置HMに限らず適用可能である。例えば、表示画面を備えるノート型コンピューター、タブレット型コンピューターまたはデスクトップ型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等の表示装置に適用できる。また、外光を透過しない表示手段を備え、ユーザーの眼に外景の光が届かないタイプの頭部装着型の表示装置にも適用できる。すなわち、上記表示装置によって、画像ファイル、PDF(Portable Document Format)ファイル、テキストファイル、または、情報を含むその他のファイルを表示する場合に、表示画面に表示された情報の少なくとも一部の情報に重なるように、当該情報(重ねられる対象の情報)に対応する別の情報を表示してもよい。この場合、上記表示装置が表示中のファイルの内容を変更することなく、表示される情報の一部または全部を変更または更新できる。この場合、いわゆる電子書籍のファイルを上記表示装置により表示中に、電子書籍に含まれる情報を別の情報に置き換えて表示することができ、かつ、電子書籍のデータを変更することはない。そして、雑誌や新聞等の媒体を模した電子書籍のファイルを利用し、電子書籍に記録された情報が最新の情報に更新されたかのように、情報を表示できる。これにより、雑誌や新聞等の旧来の媒体と同様に使い勝手に優れた形態で情報を表示することができ、かつ、電子書籍のファイル自体を更新することなく、情報の即時的な提供が可能となる。ここで、別の情報の表示態様は、変更または更新される対象の情報に対応していることが視認できる態様であればよく、対象に重なる態様に限定されない。例えば、対象の情報が表示された領域とは異なる位置または領域に、別の情報を表示してもよい。この場合、直線や図形や記号(例えば、吹き出しや注釈)により、対象の情報と別の情報とを結びつけて、対象の情報との対応関係が視認できるようにすればよい。
なお、上述した実施形態は本発明を適用した一例を示すものであって、本発明の構成および本発明の適用範囲は上記実施形態の構成に限定されない。例えば、媒体に記録された情報を隠す方法は、右LCD241および左LCD242によりマスク画像を表示する方法に限定されない。隠す対象である更新対象の情報以外の情報の視認性を高めることにより、相対的に更新対象の情報の視認性を低くする方法としてもよいし、他の方法により情報の視認性を低くしてもよい。また、上記実施形態では、媒体に記録された更新対象の情報に重なるように頭部装着型表示装置HMが新たな情報を表示する例を挙げて説明したが、本発明の実施態様としては、更新対象の情報に対応する別の情報を表示するものであればよい。また、本発明は、更新対象の情報の領域に重ねて表示する例に限らず、更新対象の情報が表示された領域とは異なる位置または領域に、新たな情報や別の情報を表示してもよい。この場合、更新対象の情報と別の情報(または新たな情報)とを結びつけて、各情報の対応関係が視認できるようにすればよく、記号、図形、文字等または配色により、対応関係を明示してもよい。
また、上記実施形態では、ユーザーが眼鏡のように装着する画像表示部20を備えた構成を例に挙げて説明したが、本発明はこれに限定されるものではなく、画像表示部20に代えて、例えば帽子のように装着する画像表示部や、ヘルメット等に組み込まれた画像表示部を備えた構成としてもよい。また、イヤホン32、34は耳掛け型やヘッドバンド型を採用してもよく、省略しても良い。
また、上記実施形態では、例えば、画像光生成部が左右のバックライト221、222と、左右のバックライト制御部201、202と、左右のLCD241、242と、左右のLCD制御部211、212とを備えた構成として説明した。この実施形態の態様はあくまで一例であり、画像光生成部は、上記の構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)パネル等の自発光型のディスプレイと、その発光を制御する制御部とを備える構成としても良い。また、例えば、画像光生成部は、LCDに代えて、LCOS(登録商標)(Liquid crystal on silicon)や、デジタル・マイクロミラー・デバイス(DMD)等を用いることもできる。この場合、画像光生成部はLED等の光源を備え、この光源が発する光をLCOSやDMDにより変調して画像光を生成する。
また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、画像光生成部が、レーザー光源と、レーザー光源をユーザーの眼に導く光学系とを備え、レーザー光をユーザーの眼に入射させて網膜上を走査し、網膜に結像させることにより、ユーザーに画像を視認させる構成を採用してもよい。レーザー網膜投影型のヘッドマウントディスプレイを採用する場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
ヘッドマウントディスプレイにおいて画像光生成部が生成した画像光をユーザーの眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともにユーザーの眼に入射させる構成を採用できる。また、ユーザーの眼の前方に位置してユーザーの視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、ユーザーの眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
また、本発明を、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。
実施形態の頭部装着型表示装置HMは、左右のバックライト221、222、左右のバックライト制御部201、202、左右のLCD241、242、及び左右のLCD制御部211、212を備える画像光生成部が生成した光を導光板261、262によりユーザーの眼に導く構成とした。
これに対し、MEMSミラーを用いた走査光学系を採用してもよい。すなわち、画像表示素子として、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像をユーザーが眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、虚像形成面は、面262Aのようにハーフミラー面となっていてもよい。
本実施形態の図4で説明した動作において、制御部140は、右LCD241および左LCD242の画素を単位として情報の表示および更新の領域を制御していた。MEMSディスプレイ技術を採用した場合、制御部140は、MEMSミラーにより走査する領域と、この走査により虚像が形成される範囲とを基準として処理を行う。これにより、MEMSディスプレイ技術を用いて、本発明を実施し、媒体の情報の変更や更新を行うことができる。
また、本発明の表示装置は、上述した頭部装着型の表示装置に限定されず、フラットパネルディスプレイやプロジェクター等の各種の表示装置に適用できる。
さらに、本発明の実施態様は、制御部140が実行するプログラムを記憶部120に記憶する構成に限定されない。例えば、上記プログラムを、コンピューター読み取り可能な可搬型の記録媒体や制御装置10に外部接続される記憶装置、或いは、制御装置10に有線または無線通信回線を介して接続される装置に記憶させてよい。この場合、必要に応じて制御装置10がプログラムを読み込んで実行するようにしてもよい。その他の頭部装着型表示装置HMの細部構成についても任意に変更可能であることは勿論である。
6…サーバー、10…制御装置、14…タッチパッド、16…十字キー、20…画像表示部、20A…調光板、22…右表示駆動部、24…左表示駆動部、26…右光学像表示部、28…左光学像表示部、61…カメラ(撮影手段)、120…記憶部、140…制御部、152…媒体認識部(媒体検出手段、属性判定手段、画像処理手段)、154…更新処理部(制御手段)、156…更新情報取得部(情報取得手段)、160…画像処理部、185…通信インターフェイス、190…表示制御部、221…右バックライト、222…左バックライト、241…右LCD、242…左LCD、251…右投写光学系、252…左投写光学系、261…右導光板(光学部材)、262…左導光板(光学部材)、262A…面、350…新聞(媒体)、HM…頭部装着型表示装置(表示装置)、L…画像光、OL…外光。

Claims (10)

  1. 使用者が視認可能な情報を検出する検出手段と、
    前記使用者が視認可能に表示を行う表示手段と、
    前記検出手段により検出された情報の少なくとも一部に重ねて、当該情報に対応する別の情報を前記表示手段により表示させる制御手段と、
    を備えることを特徴とする表示装置。
  2. 外景に重ねて視認される画像を表示する表示手段と、
    前記外景として視認される媒体を検出する媒体検出手段と、
    前記表示手段により、前記媒体に記録された情報の少なくとも一部に重ねて、この重ねられる領域の前記情報に対応する新たな情報を配置して表示させる制御手段と、
    を備えることを特徴とする表示装置。
  3. 請求項2記載の表示装置であって、
    前記媒体に記録された情報の属性を判定する属性判定手段と、
    前記表示手段により前記新たな情報が重ねられる対象の前記情報の属性に基づいて、前記情報に対応する前記新たな情報を取得する情報取得手段と、を備え、
    前記制御手段は、前記情報取得手段により取得された前記新たな情報を前記表示手段により表示させることを特徴とする表示装置。
  4. 請求項3記載の表示装置であって、
    前記制御手段は、前記属性判定手段により判定された情報の属性に基づいて、前記媒体に記録された情報から更新対象の情報を選択することを特徴とする表示装置。
  5. 請求項4記載の表示装置であって、
    前記制御手段は、前記媒体に記録された情報のうち、前記情報取得手段により前記新たな情報を取得可能な情報を前記更新対象の情報として選択することを特徴とする表示装置。
  6. 請求項2ないし5のいずれか一項記載の表示装置であって、
    前記制御手段は、前記媒体の情報を隠す領域の形状及びサイズに合わせて新たな情報を配置することを特徴とする表示装置。
  7. 請求項2ないし6のいずれか一項記載の表示装置であって、
    頭部装着型の表示装置として構成され、
    前記媒体検出手段は前記表示手段が表示する画像に重なる範囲の外景を撮影する撮影手段と、前記撮影手段により撮影された撮影画像から前記媒体を検出する画像処理手段とを備えることを特徴とする表示装置。
  8. 請求項2ないし7のいずれか一項記載の表示装置であって、
    前記表示装置は、使用者に画像を視認させる頭部装着型表示装置であり、
    前記表示手段は、
    表示用画像データを用いて画像を表す画像光を生成し射出させる画像光生成部と、
    射出された前記画像光を前記使用者の眼に導く光学部材と、
    を含み、
    前記外景の光は前記光学部材を透過して前記画像光とともに前記使用者の眼に入射することを特徴とする表示装置。
  9. 使用者が視認可能な情報を検出し、
    検出された情報の少なくとも一部に重ねて、当該情報に対応する新たな情報を、前記使用者が視認可能に表示を行う表示手段によって表示させること、
    を特徴とする表示装置の制御方法。
  10. 外景に重ねて視認される画像を表示する表示手段を備えた表示装置の制御方法であって、
    前記外景として視認される媒体を検出し、
    前記表示手段により、前記媒体に記録された情報の少なくとも一部に重ねて、この重ねられる前記情報に対応する新たな情報を配置して表示させること、
    を特徴とする表示装置の制御方法。
JP2013000362A 2013-01-07 2013-01-07 表示装置、および、表示装置の制御方法 Active JP6155643B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013000362A JP6155643B2 (ja) 2013-01-07 2013-01-07 表示装置、および、表示装置の制御方法
US14/141,008 US9459456B2 (en) 2013-01-07 2013-12-26 Display device and control method thereof
CN201410003694.4A CN103913842B (zh) 2013-01-07 2014-01-03 显示装置以及显示装置的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013000362A JP6155643B2 (ja) 2013-01-07 2013-01-07 表示装置、および、表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2014132718A true JP2014132718A (ja) 2014-07-17
JP6155643B2 JP6155643B2 (ja) 2017-07-05

Family

ID=51039651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013000362A Active JP6155643B2 (ja) 2013-01-07 2013-01-07 表示装置、および、表示装置の制御方法

Country Status (3)

Country Link
US (1) US9459456B2 (ja)
JP (1) JP6155643B2 (ja)
CN (1) CN103913842B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016071330A (ja) * 2014-09-25 2016-05-09 中強光電股▲ふん▼有限公司 ヘッドマウントディスプレイシステム及びこの操作方法
JP2020106769A (ja) * 2018-12-28 2020-07-09 ヤフー株式会社 表示プログラム、表示装置及び表示方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016013269A1 (ja) * 2014-07-22 2016-01-28 ソニー株式会社 画像表示装置及び画像表示方法、並びにコンピューター・プログラム
JP6432197B2 (ja) * 2014-07-31 2018-12-05 セイコーエプソン株式会社 表示装置、表示装置の制御方法、および、プログラム
JP2016180885A (ja) * 2015-03-24 2016-10-13 株式会社東芝 表示システム、情報処理装置および情報処理方法
KR102656425B1 (ko) * 2016-12-07 2024-04-12 삼성전자주식회사 영상을 표시하는 전자 장치 및 방법
US10324525B2 (en) * 2016-12-31 2019-06-18 Intel Corporation Context aware selective backlighting techniques
US10235788B2 (en) * 2017-01-17 2019-03-19 Opentv, Inc. Overlay contrast control in augmented reality displays
CN110199244B (zh) * 2017-01-20 2022-05-24 索尼公司 信息处理设备、信息处理方法以及程序
JP6631573B2 (ja) 2017-03-23 2020-01-15 京セラドキュメントソリューションズ株式会社 表示装置および表示システム
US10674143B2 (en) * 2017-05-12 2020-06-02 Qualcomm Incorporated System for eye tracking
US10607399B2 (en) * 2017-05-22 2020-03-31 Htc Corporation Head-mounted display system, method for adaptively adjusting hidden area mask, and computer readable medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09127459A (ja) * 1995-11-02 1997-05-16 Canon Inc 視線検出系を有した表示装置
JP2008227813A (ja) * 2007-03-12 2008-09-25 Sony Corp 画像処理装置、画像処理方法、画像処理システム
JP2010067154A (ja) * 2008-09-12 2010-03-25 Brother Ind Ltd ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ
WO2011122654A1 (ja) * 2010-03-30 2011-10-06 新日鉄ソリューションズ株式会社 情報処理装置、情報処理方法及びプログラム、情報処理装置、空きスペース案内システム、空きスペース案内方法及びプログラム、画像表示システム、画像表示方法及びプログラム
WO2012114123A1 (en) * 2011-02-24 2012-08-30 Isis Innovation Limited An optical device for the visually impaired

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001265723A (ja) 2000-03-21 2001-09-28 Yasushi Matsubara インターネット新聞
JP2005018794A (ja) 2000-08-31 2005-01-20 Baguusu:Kk 記事提供システムならびに記事提供方法および記事提供装置
US6967647B2 (en) * 2003-01-02 2005-11-22 Fujitsu Limited Method of controlling display brightness of portable information device, and portable information device
WO2007129443A1 (ja) * 2006-04-26 2007-11-15 Nikon Corporation ウエアラブルディスプレイ
JP4865012B2 (ja) * 2009-06-26 2012-02-01 株式会社東芝 情報処理装置および表示制御方法
US9341843B2 (en) * 2010-02-28 2016-05-17 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a small scale image source
US9229231B2 (en) * 2011-12-07 2016-01-05 Microsoft Technology Licensing, Llc Updating printed content with personalized virtual data
JP5912065B2 (ja) * 2012-06-01 2016-04-27 株式会社Pfu 画像処理装置、画像読取装置、画像処理方法及び画像処理プログラム
JP5894506B2 (ja) * 2012-06-08 2016-03-30 株式会社Pfu 画像処理装置、画像読取装置、画像処理方法及び画像処理プログラム
US20140111542A1 (en) * 2012-10-20 2014-04-24 James Yoong-Siang Wan Platform for recognising text using mobile devices with a built-in device video camera and automatically retrieving associated content based on the recognised text

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09127459A (ja) * 1995-11-02 1997-05-16 Canon Inc 視線検出系を有した表示装置
JP2008227813A (ja) * 2007-03-12 2008-09-25 Sony Corp 画像処理装置、画像処理方法、画像処理システム
JP2010067154A (ja) * 2008-09-12 2010-03-25 Brother Ind Ltd ヘッドマウントディスプレイ、情報閲覧システム及び管理サーバ
WO2011122654A1 (ja) * 2010-03-30 2011-10-06 新日鉄ソリューションズ株式会社 情報処理装置、情報処理方法及びプログラム、情報処理装置、空きスペース案内システム、空きスペース案内方法及びプログラム、画像表示システム、画像表示方法及びプログラム
WO2012114123A1 (en) * 2011-02-24 2012-08-30 Isis Innovation Limited An optical device for the visually impaired

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016071330A (ja) * 2014-09-25 2016-05-09 中強光電股▲ふん▼有限公司 ヘッドマウントディスプレイシステム及びこの操作方法
JP2020106769A (ja) * 2018-12-28 2020-07-09 ヤフー株式会社 表示プログラム、表示装置及び表示方法

Also Published As

Publication number Publication date
CN103913842A (zh) 2014-07-09
JP6155643B2 (ja) 2017-07-05
US20140191928A1 (en) 2014-07-10
CN103913842B (zh) 2017-11-10
US9459456B2 (en) 2016-10-04

Similar Documents

Publication Publication Date Title
JP6155643B2 (ja) 表示装置、および、表示装置の制御方法
US11301034B2 (en) Display device, control method for display device, and computer program
US9551870B2 (en) Transmissive display device and method of controlling transmissive display device
US10191555B2 (en) Head-mounted display device, control method for the head-mounted display device, and authentication system
JP6089705B2 (ja) 表示装置、および、表示装置の制御方法
JP6149403B2 (ja) 表示装置、および、表示装置の制御方法
JP6393986B2 (ja) 頭部装着型表示装置、画像表示システム、および、頭部装着型表示装置の制御方法
JP6111659B2 (ja) 表示装置、および、表示装置の制御方法
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US10083639B2 (en) Control device for controlling image display device, head-mounted display device, image display system, control method for the image display device, and control method for the head-mounted display device
US10114604B2 (en) Head-mounted display device, control method for head-mounted display device, and computer program
CN103309034A (zh) 头部佩戴型显示装置以及头部佩戴型显示装置的控制方法
US20160021360A1 (en) Display device, method of controlling display device, and program
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US10102600B2 (en) Head mounted display device, control method for head mounted display device, and computer program
JP6467922B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、情報システム、および、コンピュータープログラム
JP2015023435A (ja) 表示装置、透過型表示装置および表示装置の制御方法
JP2016034091A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6375662B2 (ja) 頭部装着型表示装置
JP6350705B2 (ja) 表示装置、および、表示装置の制御方法
JP2018180561A (ja) 頭部装着型表示装置
JP6268704B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP2017022635A (ja) 頭部装着型表示装置および画像処理システム
JP2014127968A (ja) 表示装置、および、表示装置の制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151202

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160610

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20160624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170522

R150 Certificate of patent or registration of utility model

Ref document number: 6155643

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150