JP2021043300A - 表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置 - Google Patents

表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置 Download PDF

Info

Publication number
JP2021043300A
JP2021043300A JP2019164581A JP2019164581A JP2021043300A JP 2021043300 A JP2021043300 A JP 2021043300A JP 2019164581 A JP2019164581 A JP 2019164581A JP 2019164581 A JP2019164581 A JP 2019164581A JP 2021043300 A JP2021043300 A JP 2021043300A
Authority
JP
Japan
Prior art keywords
image
unit
display
overlaps
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019164581A
Other languages
English (en)
Inventor
小林 伸一
Shinichi Kobayashi
伸一 小林
勇一 毛利
Yuichi Mori
勇一 毛利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2019164581A priority Critical patent/JP2021043300A/ja
Priority to US17/015,087 priority patent/US11269188B2/en
Priority to CN202010939654.6A priority patent/CN112558300B/zh
Publication of JP2021043300A publication Critical patent/JP2021043300A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • G02B2027/0174Head mounted characterised by optical features holographic
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Abstract

【課題】HMDに表示された画像の視認性を向上する。【解決手段】スマートフォン300にはHMD100が接続される。HMD100は、左表示部24に、外景に重ねて第1画像P1を表示し、右表示部22に、外景に重ねて第1画像P1に対応する第2画像P2を表示する。スマートフォン300は、第3画像P3を表示する表示パネル331と、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する第1検出部313と、第1検出部313の検出結果に基づいて、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方を調整する調整部315と、を備える。【選択図】図5

Description

本発明は、表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置に関する。
頭部装着型表示装置の制御部の操作面を操作する場合において、制御部の操作面の視認性を向上する技術が知られている(例えば、特許文献1参照)。
特許文献1に記載の頭部装着型表示装置は、画像を表す画像光を生成し射出させる画像光生成部と、射出された画像光を使用者の眼に導く導光部と、を有し、使用者に虚像を視認させるための画像表示部と、操作面を有するとともに画像表示部と接続され、画像表示部による画像表示を制御する制御部と、使用者が制御部の操作面を向いているかを判定する向き判定部とを備える。制御部は、使用者が制御部の操作面を向いていると判定された場合に、虚像の視認性を低下させるように、画像光生成部の輝度を調整し、または、画像光生成部により生成される画像光を調整する。
特開2012−204998号公報
特許文献1記載の頭部装着型表示装置では、使用者が制御部の操作面を向いていると判定された場合に、画像表示部に表示される画像の視認性を低下させるため、画像表示部に表示される画像を見難い場合があった。
また、頭部装着型表示装置がスマートフォンのような情報処理装置と接続され、使用者が情報処理装置を操作する場合にも、画像表示部に表示される画像の視認性を低下させるため、画像表示部に表示される画像を見難い場合があった。
例えば、スマートフォンのタッチパネルを用いて、画像表示部に表示される画像の輝度を調整する場合には、画像表示部に表示される画像の視認性が低下するため、操作性が低下する可能性があった。
上記課題を解決する一態様は、使用者の頭部に装着される表示装置と、前記表示装置が接続される情報処理装置とを備える表示システムであって、前記表示装置は、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備え、前記情報処理装置は、第3画像を表示する第3表示部と、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する第1検出部と、前記第1検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部と、前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部と、を備える、表示システムである。
上記表示システムにおいて、前記調整部は、前記第2画像を前記第1画像と異ならせるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像を調整し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像を調整する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像の表示を禁止し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像の表示を禁止する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像の透過率を調整し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像の透過率を調整する構成であってもよい。
上記表示システムにおいて、前記情報処理装置は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像が前記第3画像と重なっている領域を示す第1重畳領域を検出し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像が前記第3画像と重なっている領域を示す第2重畳領域を検出する第2検出部を備え、前記調整部は、前記第2検出部の検出結果に基づいて、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像における前記第1重畳領域の表示を禁止し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像における前記第2重畳領域の表示を禁止する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像における前記第1重畳領域の透過率を調整し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像における前記第2重畳領域の透過率を調整する構成であってもよい。
上記表示システムにおいて、前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、前記第1検出部は、前記第1撮像部の撮像結果に基づいて、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出し、前記第2検出部は、前記第1撮像部の撮像結果に基づいて、前記第1重畳領域、及び前記第2重畳領域を検出する構成であってもよい。
上記表示システムにおいて、前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、前記情報処理装置は、前記第1撮像部の撮像結果に基づいて、前記情報処理装置が左手で把持されているか、右手で把持されているかを判定する第1判定部を備え、前記第1検出部は、前記情報処理装置が左手で把持されていると前記第1判定部が判定した場合に、前記第1画像が前記第3画像と重なっていることを検出し、前記情報処理装置が右手で把持されていると前記第1判定部が判定した場合に、前記第2画像が前記第3画像と重なっていることを検出する構成であってもよい。
上記表示システムにおいて、前記情報処理装置は、前記第3表示部が前記表示装置に対向しているか否か判定する第2判定部を備え、前記第3表示部が前記表示装置に対向していると前記第2判定部が判定した場合に、前記調整部は、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する構成であってもよい。
上記表示システムにおいて、前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、前記情報処理装置は、前記外景の第2撮像範囲を撮像する第2撮像部を備え、前記第2判定部は、前記第1撮像部が撮像した画像、及び前記第2撮像部が撮像した画像に基づいて、前記情報処理装置の前記第3表示部が前記表示装置に対向しているか否かを判定する構成であってもよい。
上記課題を解決する別の一態様は、使用者の頭部に装着され、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備える表示装置が接続され、第3画像を表示する第3表示部と、コンピューターとを備える情報処理装置の制御プログラムであって、前記コンピューターを、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する検出部、前記検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部、及び、前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部として機能させる、制御プログラムである。
上記課題を解決する更に別の一態様は、使用者の頭部に装着され、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備える表示装置が接続され、第3画像を表示する第3表示部と、コンピューターとを備える情報処理装置の制御方法であって、前記コンピューターが、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する検出ステップと、前記コンピューターが、前記検出ステップの検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整ステップと、前記コンピューターが、前記調整ステップの調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御ステップと、を含む、情報処理装置の制御方法である。
上記課題を解決する更に別の一態様は、使用者の頭部に装着され表示ユニットと、第3画像を表示する第3表示部を有する情報処理装置、及び前記表示ユニットが接続されるコントロールユニットと備える表示装置であって、前記表示ユニットは、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備え、前記コントロールユニットは、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する第1検出部と、前記第1検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部と、前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部と、を備える、表示装置である。
本実施形態に係る表示システムの構成の一例を示す図。 画像表示部の光学系の構成の一例を示す図。 画像表示部の要部構成の一例を示す斜視図。 HMDを構成する各部の構成の一例を示す図。 スマートフォンの構成の一例を示す図。 表示パネルがHMDと対向している状態の一例を示す図。 表示パネルがHMDと対向している状態の他の一例を示す図。 第3画像が第2画像と重なる状態の一例を示す図。 第3画像が第2画像と重なる状態の他の一例を示す図。 第3画像が第1画像及び第2画像と重なる状態の一例を示す図。 第2制御部の処理の一例を示すフローチャート。
以下、図面を参照して実施形態について説明する。
[1.表示システムの構成]
[1−1.表示システムの全体構成]
図1は、本実施形態に係る表示システム1の概略構成を示す図である。
図1に示すように、表示システム1は、HMD(Head Mounted Display)100を備える。HMD100は、使用者Uの頭部に装着される画像表示部20と、接続装置10とを備え、画像表示部20により、使用者Uの頭部に装着された状態で使用者Uに虚像を視認させる装置である。
HMD100は、「表示装置」の一例に対応する。画像表示部20は、「表示ユニット」の一例に対応する。接続装置10は、「コントロールユニット」の一例に対応する。
以下の説明において、使用者Uとは、HMD100を装着して使用するユーザーを指す。
接続装置10は、箱形のケースに、コネクター11A及びコネクター11Dを備える。コネクター11Aには、画像表示部20が接続ケーブル40を介して接続される。以下、コネクター11A、11Dを区別しない場合はコネクター11と表記する場合がある。接続装置10のケースは、筐体、或いは本体ということもできる。
表示システム1は、HMD100にスマートフォン300を接続して構成されるシステムである。コネクター11Dは、HMD100においてスマートフォン300が接続されるインターフェイスである。すなわち、本実施形態では、コネクター11Dにスマートフォン300が接続される。スマートフォン300は、「情報処理装置」の一例に対応する。
なお、スマートフォン300は情報処理装置の一例に過ぎない。情報処理装置は、使用者Uが携帯可能であって、画像を表示する表示部と、コンピューターとを備えればよい。例えば、情報処理装置として、PDA(Personal Digital Assistant)端末、タブレット型パーソナルコンピューター等を接続装置10に接続可能である。
コネクター11は、通信ケーブルを接続する有線インターフェイスであり、この通信ケーブルにより、接続装置10は外部の装置と接続される。コネクター11Aは、接続ケーブル40を接続する端子、及び、コネクター11Aを介して信号を送受信するインターフェイス回路を備える。
コネクター11Aは、接続装置10に画像表示部20を接続するために設けられる。接続ケーブル40は、接続装置10から画像表示部20に対する電源供給を行うとともに、画像表示部20と接続装置10とが相互にデータを送受信する機能を有する。
コネクター11Dは、スマートフォン300から画像データが入力され、スマートフォン300に対してセンサーデータの出力が可能なインターフェイス回路を備える。スマートフォン300は、不揮発性記憶部に記録されたコンテンツデータを再生する。コネクター11Dは、例えば、公知の通信インターフェイス規格に準拠するコネクターである。
本実施形態では、コネクター11Dは、一例として、画像データ及び各種データの入出力に対応するインターフェイス回路を備え、USBケーブル46を介してスマートフォン300が接続される。
コネクター11Dとして、例えば、USB(Universal Serial Bus)−TypeC規格のコネクターを採用することができる。USB−TypeCに対応するインターフェイス回路は、USB3.1規格に従ったデータの伝送、及び、20ボルト、5アンペア以内の直流電力の供給が可能である。
また、USB−TypeCの代替モードの機能として、HDMI(登録商標:High Definition Multimedia Interface)規格の画像データ、MHL(Mobile High−definition Link)規格の画像データ等を伝送できる。スマートフォン300は、USBケーブル46を介して、電源供給、データの送受信、及び、画像や音声のストリーミングデータの供給等を行うことができる。USB−TypeCの代替モードは、Alternativeモードとして知られている。
画像表示部20は、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示部22、左表示部24、右導光板26、及び左導光板28を備える。
右保持部21及び左保持部23は、前部フレーム27の両端部から後方に延び、使用者Uの頭部に画像表示部20を保持する。前部フレーム27の両端部のうち、画像表示部20の装着時に頭部の右側に位置する端部を端部ERとし、左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態において使用者Uの右側頭部に対応する位置まで延伸して設けられる。左保持部23は、端部ELから、画像表示部20の装着状態において使用者Uの左側頭部に対応する位置まで延伸して設けられる。
右導光板26及び左導光板28は、前部フレーム27に設けられる。右導光板26は、画像表示部20の装着状態において使用者Uの右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、画像表示部20の装着状態において使用者Uの左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有し、この連結位置は、使用者Uが画像表示部20を装着する装着状態で、使用者Uの眉間に対応する。
前部フレーム27は、右導光板26と左導光板28との連結位置において、画像表示部20の装着状態で使用者Uの鼻に当接する鼻当て部を設けてもよい。この場合には、鼻当て部と右保持部21及び左保持部23とにより画像表示部20を使用者Uの頭部に保持できる。また、右保持部21及び左保持部23に、画像表示部20の装着状態において使用者Uの後頭部に接するベルトを連結してもよい。この場合には、ベルトによって画像表示部20を使用者Uの頭部に保持できる。
右表示部22及び左表示部24の各々は、光学ユニット及び周辺回路をユニット化したモジュールである。
右表示部22は、右導光板26による画像の表示に係るユニットであり、右保持部21に設けられ、装着状態において使用者Uの右側頭部の近傍に位置する。左表示部24は、左導光板28による画像の表示に係るユニットであり、左保持部23に設けられ、装着状態において使用者Uの左側頭部の近傍に位置する。なお、右表示部22及び左表示部24を総称して単に「表示駆動部」と呼ぶこともできる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部であり、右表示部22及び左表示部24が出力する画像光を、使用者Uの眼に導く。右導光板26及び左導光板28は、例えばプリズムである。
左表示部24及び左導光板28は、「第1表示部」の一例に対応する。右表示部22及び右導光板26は、「第2表示部」の一例に対応する。
使用者Uの右眼には、右導光板26により導かれた画像光と、右導光板26を透過した外光とが入射する。同様に、左眼には、左導光板28により導かれた画像光と、左導光板28を透過した外光とが入射する。
左導光板28により導かれた画像光は、第1画像P1に対応する。すなわち、左表示部24及び左導光板28は、外景に重ねて第1画像P1を表示する。右導光板26により導かれた画像光は、第2画像P2に対応する。すなわち、右表示部22及び右導光板26は、外景に重ねて第2画像P2を表示する。
第2画像P2は、第1画像P1に対応する画像である。本実施形態では、第2画像P2は、例えば、第1画像P1と同一の画像である。
第1画像P1及び第2画像P2については、後述にて図8〜図10を参照して詳細に説明する。
画像表示部20の前部フレーム27には、照度センサー65が配置される。照度センサー65は、画像表示部20を装着する使用者Uの前方からの外光を受光する。
第1カメラ61は、画像表示部20の前部フレーム27に配設される。第1カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図1の例では、第1カメラ61が右導光板26と左導光板28との連結部に配置されているが、前部フレーム27の端部ER側に配置されてもよく、端部EL側に配置されてもよい。
第1カメラ61は、「第1撮像部」の一例に対応する。
第1カメラ61は、CCD(Charge Coupled Device)やCMOS(Complementary Metal−Oxide−Semiconductor)等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。第1カメラ61は、外景の第1撮像範囲を撮像し、第1撮像画像を生成する。
第1撮像範囲については、後述にて図6を参照して説明する。本実施形態の第1カメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。
前部フレーム27には、LED(Light Emitting Diode)インジケーター67が配置される。LEDインジケーター67は、端部ERに配置され、第1カメラ61の動作中に点灯して、撮像中であることを報知する。
前部フレーム27には、距離センサー64及び赤外線センサー66が設けられる。距離センサー64は、予め設定された測定方向に位置する測定対象物までの距離を検出する。距離センサー64は、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する光反射式距離センサーであってもよい。また、距離センサー64は、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える超音波式の距離センサーであってもよい。また、距離センサー64は、レーザーレンジスキャナーを用いてもよく、この場合には、画像表示部20の前方を含む広範囲の領域に対し測域を行える。
赤外線センサー66は、赤外線を検出する。具体的には、赤外線センサー66は、スマートフォン300の赤外線通信部から出射された赤外線を検出する。また、赤外線センサー66が赤外線通信部の一部として構成されてもよい。この場合には、スマートフォン300の赤外線通信部との通信が可能である。赤外線通信部は、例えば、IrDA規格に則って通信を行う。
画像表示部20の右表示部22及び左表示部24の各々は、接続装置10に接続される。HMD100では、左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が画像表示部20内部に敷設され、右表示部22及び左表示部24の各々が接続装置10に接続される。
接続ケーブル40は、オーディオコネクター36を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター36に接続される。右イヤホン32は、使用者Uの右耳に装着され、左イヤホン34は、使用者Uの左耳に装着される。右イヤホン32及び左イヤホン34は、音声出力部ということもできる。
右イヤホン32及び左イヤホン34は、接続装置10が出力する音声信号に基づき音声を出力する。
マイク63は、音声を集音して、音声信号を接続装置10に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
接続装置10は、使用者Uにより操作される被操作部として、輝度調整キー13、輝度調整キー14、音量調整キー15及び音量調整キー16を備える。輝度調整キー13、輝度調整キー14、音量調整キー15及び音量調整キー16の各々は、ハードウェアキーで構成される。これらの被操作部は接続装置10の本体の表面に配置され、例えば、使用者Uの手指により操作される。
輝度調整キー13、14は画像表示部20により表示する画像の表示輝度を調整するためのハードウェアキーである。輝度調整キー13は輝度の増大を指示し、輝度調整キー14は輝度の低減を指示する。音量調整キー15、16は、右イヤホン32及び左イヤホン34から出力される音声の音量を調整するためのハードウェアキーである。音量調整キー15は音量の増大を指示し、音量調整キー16は音量の低減を指示する。
[1−2.HMDの画像表示部の光学系の構成]
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のために、使用者Uの左眼LE及び右眼REを図示する。
図2に示すように、右表示部22と左表示部24とは、左右対称に構成される。使用者Uの右眼REに画像を視認させる構成として、右表示部22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。また、OLEDユニット221が発する画像光Lを導くレンズ群等を備えた右光学系251を備える。画像光Lは、右光学系251により右導光板26に導かれる。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される、自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。OLED駆動回路225は、第1制御部120の制御に従って、OLEDパネル223が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル223の発光素子を発光させる。第1制御部120については、後述にて図4を参照して説明する。
OLED駆動回路225は、OLEDパネル223の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板(図示略)に実装されてもよい。この基板には図4に示す温度センサー217が実装される。
なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加え、W(白)の光を発する発光素子を備えるWRGB構成のOLEDパネル223を用いてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射して右眼REに向けて右導光板26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者Uに第2画像P2を視認させる。
また、使用者Uの左眼LEに画像を視認させる構成として、左表示部24は、画像光を発するOLEDユニット241と、OLEDユニット241が発する画像光Lを導くレンズ群等を備えた左光学系252とを備える。画像光Lは、左光学系252により左導光板28に導かれる。
OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245とを有する。OLEDパネル243は、OLEDパネル223と同様に構成される自発光型の表示パネルである。OLED駆動回路245は、第1制御部120の指示に従って、OLEDパネル243が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル243の発光素子を発光させる。
OLED駆動回路245は、OLEDパネル243の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路245は、例えばOLEDパネル243を駆動する半導体デバイスで構成され、OLEDパネル243の裏面に固定される基板(図示略)に実装されてもよい。この基板には、図4に示す温度センサー239が実装される。
左光学系252は、OLEDパネル243から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、左導光板28に入射する。左導光板28は、画像光Lを反射する複数の反射面が形成された光学素子であり、例えばプリズムである。画像光Lは、左導光板28の内部で複数回の反射を経て左眼LE側に導かれる。左導光板28には、左眼LEの眼前に位置するハーフミラー281(反射面)が形成される。画像光Lは、ハーフミラー281で反射して左眼LEに向けて左導光板28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者Uに第1画像P1を視認させる。
この構成によれば、HMD100は、透過型の表示装置として機能する。すなわち、使用者Uの右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。また、左眼LEには、ハーフミラー281で反射した画像光Lと、ハーフミラー281を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者Uの眼に入射させ、使用者Uにとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。
ハーフミラー261、281は、右表示部22及び左表示部24がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
なお、左光学系252と左導光板28とを総称して「左導光部」とも呼び、右光学系251と右導光板26とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者Uの眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
図3は、画像表示部20の要部の構成を示す図である。図3は、画像表示部20を使用者Uの頭部側から見た要部斜視図である。なお、図3では接続ケーブル40の図示を省略する。
図3は、画像表示部20の使用者Uの頭部に接する側、言い換えれば使用者Uの右眼RE及び左眼LEに見える側である。別の言い方をすれば、図3では、右導光板26及び左導光板28の裏側が見えている。
図3では、使用者Uの右眼REに画像光を照射するハーフミラー261及び左眼LEに画像光を照射するハーフミラー281が、略四角形の領域として見える。また、ハーフミラー261を含む右導光板26の全体、及びハーフミラー281を含む左導光板28の全体が、上述したように外光を透過する。このため、使用者Uには、右導光板26及び左導光板28の全体を透過して外景が視認され、ハーフミラー261、281の位置に矩形の表示画像が視認される。
また、画像表示部20の使用者U側には内側カメラ68が配置される。内側カメラ68は、使用者Uの右眼RE及び左眼LEの各々に対応するように、右導光板26と左導光板28との中央位置に一対、設けられる。内側カメラ68は、使用者Uの右眼REと左眼LEとをそれぞれ撮像する一対のカメラである。内側カメラ68は、第1制御部120の指示に従って撮像を行う。第1制御部120は、内側カメラ68の撮像画像データを解析する。例えば、第1制御部120は、内側カメラ68の撮像画像データから右眼RE及び左眼LEの眼球表面における反射光や瞳孔の画像を検出し、使用者Uの視線方向を特定する。また、第1制御部120は、使用者Uの視線方向の変化を求めることができ、右眼RE及び左眼LEのそれぞれの眼球運動を検出してもよい。
ここで、使用者Uの視線の移動は、使用者Uの仮想視点の移動とみることもできる。
また、第1制御部120は、内側カメラ68の撮像画像から右眼RE及び左眼LEの視線方向を検出した場合に、右眼RE及び左眼LEの輻輳角を求めることができる。輻輳角は、使用者Uが注視する対象物までの距離に対応する。すなわち、使用者Uが立体的に画像や物体を視認する場合、視認する対象までの距離に対応して、右眼RE及び左眼LEの輻輳角が定まる。したがって、輻輳角を検出することで、使用者Uが注視する距離を求めることができる。また、使用者Uの輻輳角を誘導するように画像を表示することにより、立体視を誘導できる。
また、第1制御部120は、第2制御部310の指示に従って、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる。具体的には、第1制御部120は、第2制御部310の指示に従って、調整部315によって調整された後の第1画像P1を左表示部24及び左導光板28に表示させ、調整部315によって調整された後の第2画像P2を右表示部22及び右導光板26に表示させる。
[1−3.HMDの各部の構成]
図4は、HMD100を構成する各部の構成の一例を示す図である。
画像表示部20の右表示部22は、右表示部基板210を有する。右表示部基板210には、接続ケーブル40に接続される右I/F部211、右I/F部211を介して接続装置10から入力されるデータを受信する受信部213及びEEPROM(Electrically Erasable Programmable Read Only Memory)215が実装される。右I/F部211は、受信部213、EEPROM215、温度センサー217、第1カメラ61、距離センサー64、照度センサー65、赤外線センサー66、LEDインジケーター67及び内側カメラ68を、接続装置10に接続する。受信部213は、OLEDユニット221を接続装置10に接続する。
左表示部24は、左表示部基板230を有する。左表示部基板230には、接続ケーブル40に接続される左I/F部231及び左I/F部231を介して接続装置10から入力されるデータを受信する受信部233が実装される。また、左表示部基板230には、6軸センサー235及び磁気センサー237が実装される。
左I/F部231は、受信部233、6軸センサー235、磁気センサー237及び温度センサー239を、接続装置10に接続する。受信部233は、OLEDユニット241を接続装置10に接続する。
I/Fは、インターフェイスの略記である。なお、本実施形態においては、受信部213及び受信部233の各々を、Rx213、Rx233と記載する場合がある。
EEPROM215は、各種のデータを不揮発的に記憶する。EEPROM215は、例えば、画像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示部22又は左表示部24が備えるセンサーの特性に関するデータ等を記憶する。
具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれる。EEPROM215が記憶するデータは、第1制御部120により読取り可能である。
第1カメラ61は、右I/F部211を介して入力される信号に従って撮像を実行し、撮像画像データを、右I/F部211に出力する。
照度センサー65は、外光を受光し、受光量又は受光強度に対応する検出値を出力する。LEDインジケーター67は、右I/F部211を介して入力される制御信号又は駆動電流に従って点灯する。
内側カメラ68は、右I/F部211を介して入力される信号に従って撮像を実行し、撮像画像データを、右I/F部211に出力する。
温度センサー217は、OLEDユニット221の温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。
距離センサー64は、距離検出を実行し、検出結果を示す信号を、右I/F部211を介して接続装置10に出力する。距離センサー64は、例えば、赤外線式深度センサー、超音波式距離センサー、Time Of Flight式距離センサー、画像検出と音声検出とを組み合わせた距離検出ユニット等を用いることができる。また、距離センサー64が、ステレオカメラや単眼カメラによるステレオ撮影で得られる画像を処理して距離を検出する構成であってもよい。
赤外線センサー66は、赤外線検出を実行し、検出結果を示す信号を右I/F部211を介して接続装置10に出力する。
受信部213は、右I/F部211を介して接続装置10から伝送される表示用の画像データを受信し、OLEDユニット221に出力する。OLEDユニット221は、接続装置10が伝送する画像データに基づく画像を表示する。
また、受信部233は、左I/F部231を介して接続装置10から伝送される表示用の画像データを受信し、OLEDユニット241に出力する。OLEDユニット221、241は、接続装置10が伝送する画像データに基づく画像を表示する。
6軸センサー235は、3軸加速度センサー、及び、3軸ジャイロセンサーを備えるモーションセンサーである。6軸センサー235は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。ジャイロセンサーは、角速度センサーとも呼ばれる。
温度センサー239は、OLEDユニット241の温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値として出力する。
画像表示部20の各部は、接続ケーブル40により接続装置10から供給される電力により動作する。
画像表示部20は、右表示部22に電源部229を備え、左表示部24に電源部249を備える。電源部229は、接続装置10が接続ケーブル40を介して供給する電力を、右表示部基板210を含む右表示部22の各部に分配し、供給する。同様に、電源部249は、接続装置10が接続ケーブル40を介して供給する電力を、左表示部基板230を含む左表示部24の各部に分配し、供給する。右表示部22及び左表示部24は、電圧を変換する変換回路等を備えてもよい。
接続装置10は、I/F部110、第1制御部120、センサー制御部122、第1表示制御部124、電源制御部126、不揮発性記憶部130、操作部140、接続部145及び音声処理部147を備える。
I/F部110は、コネクター11Dを備える。また、I/F部110は、コネクター11Dに接続されて、各種通信規格に準拠した通信プロトコルを実行するインターフェイス回路を備える。
I/F部110は、例えば、コネクター11D及びインターフェイス回路を実装したインターフェイス基板であってもよい。また、接続装置10の第1制御部120やセンサー制御部122、第1表示制御部124、電源制御部126が、図示しない接続装置メイン基板に実装される構成としてもよい。この場合には、接続装置メイン基板にI/F部110のコネクター11D及びインターフェイス回路を実装してもよい。
また、I/F部110は、例えば、外部の記憶装置や記憶媒体を接続可能なメモリーカード用インターフェイス回路等を備えてもよいし、I/F部110を無線通信インターフェイス回路で構成してもよい。
第1制御部120は、接続装置10の各部を制御する。第1制御部120は、CPU(Central Processing Unit)のような第1プロセッサーを有する。第1制御部120において、第1プロセッサーが第1制御プログラムを実行することによって、ソフトウェアとハードウェアとの協働によりHMD100の各部を制御する。第1制御部120には、不揮発性記憶部130、操作部140、接続部145及び音声処理部147が接続される。
センサー制御部122は、第1カメラ61、距離センサー64、照度センサー65、赤外線センサー66、温度センサー217、6軸センサー235、磁気センサー237及び温度センサー239を制御する。具体的には、センサー制御部122は、第1制御部120の制御に従って各センサーのサンプリング周期の設定及び初期化を行い、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。
センサー制御部122は、I/F部110のコネクター11Dに接続され、予め設定されたタイミングで、各センサーから取得した検出値に関するデータをコネクター11Dに出力する。コネクター11Dに接続されたスマートフォン300は、HMD100の各センサーの検出値、第1カメラ61の撮像画像データ、及び内側カメラ68によって検出された視線方向を示すデータを取得できる。
第1表示制御部124は、I/F部110に入力される画像データに基づく画像を画像表示部20により表示するための各種処理を実行する。本実施形態では、コネクター11Dに、スマートフォン300が出力する画像信号が入力される。画像信号は、デジタル画像データであるが、アナログ画像信号であってもよい。
第1表示制御部124は、例えば、フレームの切り出し、解像度変換、中間フレーム生成、フレームレート変換等の各種処理を実行する。解像度変換は、いわゆるスケーリングを含む。第1表示制御部124は、OLEDユニット221及びOLEDユニット241の各々に対応する画像データを接続部145に出力する。接続部145に入力された画像データは、コネクター11Aから、画像信号201として右I/F部211及び左I/F部231に伝送される。画像信号201は、OLEDユニット221及びOLEDユニット241の各々に対応して処理されたデジタル画像データである。
本実施形態では、コネクター11DがUSB−TypeCコネクターで構成される。第1表示制御部124は、コネクター11Dを介して、USB−TypeCの代替モードで伝送される画像データを受信する。
センサー制御部122及び/又は第1表示制御部124は、第1プロセッサーがプログラムを実行することにより、ソフトウェアとハードウェアとの協働により実現されてもよい。すなわち、センサー制御部122及び第1表示制御部124は、第1プロセッサーにより構成され、プログラムを実行することで上記の動作を実行する。この例で、センサー制御部122及び第1表示制御部124は、第1制御部120を構成する第1プロセッサーがプログラムを実行することで実現されてもよい。言い換えれば、第1プロセッサーがプログラムを実行することで、第1制御部120、第1表示制御部124及びセンサー制御部122として機能してもよい。
また、第1表示制御部124及びセンサー制御部122は、DSP(Digital Signal Processor)やFPGA(Field Programmable Gate Array)等、プログラムされたハードウェアにより構成されてもよい。また、センサー制御部122及び第1表示制御部124を統合して、SoC(System−on−a−Chip)−FPGAとして構成してもよい。
電源制御部126は、コネクター11Dに接続される。電源制御部126は、コネクター11Dから供給される電力に基づき、接続装置10の各部および画像表示部20に対する電源供給を行う。また、電源制御部126は、図示しない電圧変換回路を備え、電圧を変換して接続装置10及び画像表示部20の各部に供給する構成であってもよい。電源制御部126は、ロジック回路やFPGA等のプログラムされた半導体デバイスで構成されてもよい。また、電源制御部126をセンサー制御部122及び/又は第1表示制御部124と共通のハードウェアで構成してもよい。
センサー制御部122、第1表示制御部124及び電源制御部126は、データ処理を行うためのワークメモリーを具備してもよく、第1制御部120のメモリーを利用して処理を行ってもよい。
操作部140は、接続装置10が備える被操作部に対する操作を検出し、操作内容を示すデータ、又は、操作された被操作部を示す操作信号を第1制御部120に出力する。
音声処理部147は、第1制御部120から入力される音声データに従って、音声信号を生成し、接続部145に出力する。この音声信号は接続部145からオーディオコネクター36を介して右イヤホン32及び左イヤホン34に出力される。また、音声処理部147は、第1制御部120の制御に従って、音声信号のボリュームを調整する。また、音声処理部147は、マイク63が集音した音声の音声データを生成し、第1制御部120に出力する。この音声データは、第1制御部120により、画像表示部20が備えるセンサーの検出値と同様に処理されてもよい。
また、接続装置10は図示しないバッテリーを備え、このバッテリーから接続装置10及び画像表示部20の各部に電力を供給する構成であってもよい。接続装置10が備えるバッテリーは、充電可能な二次電池であってもよい。
[1−4.スマートフォンの構成]
図5は、スマートフォン300の構成の一例を示す図である。
スマートフォン300は、第2制御部310、表示部330、第2カメラ341、6軸センサー351、及び磁気センサー352を備える。
第2制御部310は、CPUやマイコン等の第2プロセッサー310Aを備え、この第2プロセッサー310Aにより第2制御プログラムを実行することにより、スマートフォン300の各部を制御する。第2制御部310は、第2プロセッサー310Aが実行する第2制御プログラムを不揮発的に記憶するROM(Read Only Memory)、及び、第2プロセッサー310Aのワークエリアを構成するRAM(Random Access Memory)のような第2メモリー310Bを備える。
第2プロセッサー310Aは、「コンピューター」の一例に対応する。第2制御部310の第2メモリー310Bに記憶された第2制御プログラムは、「制御プログラム」の一例に対応する。
第2メモリー310Bは、例えば、HDD(Hard Disk Drive)等の磁気的記録装置、又は、フラッシュメモリー等の半導体記憶素子を用いた記憶装置を備えてもよい。
表示部330が備える表示パネル331及びタッチセンサー332は、第2制御部310に接続される。表示パネル331は、第2制御部310の制御に基づき各種画像を表示する。表示パネル331は、例えばLCD(Liquid Crystal Display)で構成される。表示パネル331は、矩形状に構成される。本実施形態では、表示パネル331は、長方形状である。表示パネル331は、第3画像P3を表示する。
表示パネル331は、「第3表示部」の一例に対応する。第3画像P3については、後述にて図8〜図10を参照して詳細に説明する。
タッチセンサー332は、タッチ操作を検出し、検出した操作を示すデータを第2制御部310に出力する。
タッチセンサー332は、表示パネル331と一体に形成される。具体的には、タッチセンサー332は、表示パネル331の画像表示面に形成される。本実施形態では、タッチセンサー332は、長方形状である。タッチセンサー332が出力するデータは、タッチセンサー332における操作位置を示す座標データ等である。
第2カメラ341は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。第2カメラ341は、第2制御部310の指示に従って、外景の第2撮像範囲を撮像し、第2撮像画像を生成する。第2カメラ341は、図7に示すように、スマートフォン300において、表示パネル331と同じ側の面に配置されている。具体的には、第2カメラ341は、表示パネル331の短辺と、スマートフォン300を構成する筐体のうち表示パネル331が配置される面の周辺との間に配置される。
第2カメラ341は、「第2撮像部」の一例に対応する。
第2撮像範囲については、後述にて図7を参照して説明する。
6軸センサー351は、3軸加速度センサー、及び、3軸ジャイロセンサーを備えるモーションセンサーである。6軸センサー351は、上記のセンサーがモジュール化されたIMUを採用してもよい。磁気センサー352は、例えば、3軸の地磁気センサーである。ジャイロセンサーは、角速度センサーとも呼ばれる。
[1−5.スマートフォンの第2制御部の構成]
第2制御部310は、第1判定部311と、第2判定部312と、第1検出部313と、第2検出部314と、調整部315と、第2表示制御部316とを備える。具体的には、第2制御部310は、第2制御部310が備える第2プロセッサー310Aが第2制御プログラムを実行することにより、第1判定部311、第2判定部312、第1検出部313、第2検出部314、調整部315、及び第2表示制御部316として機能する。
第1判定部311は、第1カメラ61の撮像結果に基づいて、スマートフォン300が使用者Uの左手で把持されているか、使用者Uの右手で把持されているかを判定する。具体的には、第1判定部311は、第1カメラ61の第1撮像画像に画像処理等を実行することによって、スマートフォン300が使用者Uの左手で把持されているか、使用者Uの右手で把持されているかを判定する。
例えば、使用者Uがスマートフォン300を左手で把持する場合には、第1カメラ61の第1撮像画像には、使用者Uの左手の手のひらの一部と、使用者Uの左手の親指と、使用者Uの左手の中指、薬指及び小指の各々の先端部とに対応する画像が含まれる。また、例えば、使用者Uがスマートフォン300を右手で把持する場合には、第1カメラ61の第1撮像画像には、使用者Uの右手の手のひらの一部と、使用者Uの右手の親指と、使用者Uの右手の中指、薬指及び小指の各々の先端部とに対応する画像が含まれる。
そこで、第1判定部311は、第1カメラ61の第1撮像画像にスマートフォン300を把持する使用者Uの左手の一部が含まれている場合に、スマートフォン300が使用者Uの左手で把持されていると判定する。また、第1判定部311は、第1カメラ61の第1撮像画像にスマートフォン300を把持する使用者Uの右手の一部が含まれている場合に、スマートフォン300が使用者Uの右手で把持されていると判定する。
第2判定部312は、表示パネル331が図1に示すHMD100に対向しているか否かを判定する。具体的には、第2判定部312は、図1及び図4に示す第1カメラ61が撮像した画像、及び第2カメラ341が撮像した画像に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定する。更に具体的には、下記の第1条件、及び第2条件を満たす場合に、表示パネル331がHMD100に対向していると判定する。
第1条件:第1カメラ61の第1撮像範囲内に表示パネル331が位置する。
第2条件:第2カメラ341の第2撮像範囲内にHMD100が位置する。
第1条件については、後述にて図6を参照して詳細に説明する。第2条件については、後述にて図7を参照して詳細に説明する。
第1検出部313は、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する。具体的には、第1検出部313は、第1カメラ61の撮像結果に基づいて、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する。
更に具体的には、第1検出部313は、第1カメラ61の第1撮像画像に含まれるスマートフォン300の表示パネル331の位置と、右導光板26及び左導光板28の向きと、に基づいて、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する。
例えば、第1検出部313は、第1画像P1が第3画像P3と重なっており、第2画像P2が第3画像P3と重なっていないことを検出する。また、例えば、第1検出部313は、第1画像P1が第3画像P3と重なっておらず、第2画像P2が第3画像P3と重なっていることを検出する。また、例えば、第1検出部313は、第1画像P1が第3画像P3と重なっており、第2画像P2が第3画像P3と重なっていることを検出する。
第1検出部313は、「検出部」の一例に対応する。
第1検出部313の処理については、後述にて図8〜図10を参照して詳細に説明する。
第2検出部314は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1重畳領域AD1を検出する。第1重畳領域AD1は、第1画像P1が第3画像P3と重なっている領域を示す。また、第2検出部314は、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2重畳領域AD2を検出する。第2重畳領域AD2は、第2画像P2が第3画像P3と重なっている領域を示す。
具体的には、第2検出部314は、第1カメラ61の第1撮像画像に含まれるスマートフォン300の表示パネル331の位置と、右導光板26及び左導光板28の向きと、に基づいて、第1重畳領域AD1及び第2重畳領域AD2を検出する。
第1重畳領域AD1及び第2重畳領域AD2の各々については、後述にて図8〜図10を参照して詳細に説明する。
調整部315は、第1検出部313の検出結果に基づいて、第3画像P3を使用者Uが視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。また、調整部315は、第2画像P2を第1画像P1と異ならせるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。
具体的には、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1を調整し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2を調整する。
本実施形態では、調整部315は、第2検出部314の検出結果に基づいて、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。具体的には、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、調整部315は、第1画像P1における第1重畳領域AD1の表示を禁止する。また、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2における第2重畳領域AD2の表示を禁止する。
調整部315の処理については、後述にて図8〜図10を参照して詳細に説明する。
第2表示制御部316は、例えば、コンテンツデータを再生し、コンテンツデータに含まれる画像データに対応する第3画像P3を表示部330の表示パネル331に表示する。第2表示制御部316は、第3画像P3に対応する第1画像P1及び第2画像P2をHMD100の第1制御部120に伝送する。具体的には、第2表示制御部316は、コンテンツデータに含まれる画像データに基づき、左表示部24及び左導光板28に表示させる第1画像P1と、右表示部22及び右導光板26に表示させる第2画像P2とをHMD100の第1制御部120に伝送する。
また、第2表示制御部316は、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる。換言すれば、第2表示制御部316は、調整部315によって調整された後の第1画像P1を左表示部24及び左導光板28に表示させ、調整部315によって調整された後の第2画像P2を右表示部22及び右導光板26に表示させる。
第2表示制御部316は、「表示制御部」の一例に対応する。
第2制御部310の処理については、後述にて図11を参照して具体的に説明する。
本実施形態では、第1画像P1が第3画像P3と重なっている場合に、調整部315は、第1重畳領域AD1の表示を禁止し、第2画像P2が第3画像P3と重なっている場合に、第2重畳領域AD2の表示を禁止するが、本発明の実施形態はこれに限定されない。第1画像P1が第3画像P3と重なっている場合に、調整部315は、第1画像P1を調整し、第2画像P2が第3画像P3と重なっている場合に、調整部315は、第2画像P2を調整すればよい。
例えば、第1画像P1が第3画像P3と重なっている場合に、調整部315は、第1画像P1の表示を禁止し、第2画像P2が第3画像P3と重なっている場合に、調整部315は、第2画像P2の表示を禁止してもよい。
また、例えば、第1画像P1が第3画像P3と重なっている場合に、調整部315は、第1画像P1の透過率を調整し、第2画像P2が第3画像P3と重なっている場合に、調整部315は、第2画像P2の透過率を調整してもよい。なお、調整部315は、第1画像P1の透過率、及び第2画像P2の透過率の各々が増加するように調整する。調整部315は、例えば、第1画像P1の透過率、及び第2画像P2の透過率の各々が10%から50%に増加するように調整する。
また、例えば、第1画像P1が第3画像P3と重なっている場合に、調整部315は、第1重畳領域AD1の透過率を調整し、第2画像P2が第3画像P3と重なっている場合に、調整部315は、第2重畳領域AD2の透過率を調整してもよい。なお、調整部315は、第1重畳領域AD1の透過率、及び第2重畳領域AD2の透過率の各々が増加するように調整する。調整部315は、例えば、第1重畳領域AD1の透過率、及び第2重畳領域AD2の透過率の各々が10%から50%に増加するように調整する。
本実施形態では、調整部315は、第1検出部313の検出結果、及び第2検出部314の検出結果に基づいて、第3画像P3を使用者Uが視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整するが、本発明の実施形態はこれに限定されない。例えば、調整部315が、第1判定部311の判定結果に基づいて、第1画像P1及び第2画像P2の少なくとも一方の画像を調整してもよい。
具体的には、スマートフォン300が使用者Uの左手で把持されていると第1判定部311が判定した場合に、調整部315が第1画像P1の表示を禁止し、スマートフォン300が使用者Uの右手で把持されていると第1判定部311が判定した場合に、調整部315が第2画像P2の表示を禁止してもよい。
本実施形態では、スマートフォン300の第2制御部310が、第1判定部311と、第2判定部312と、第1検出部313と、第2検出部314と、調整部315と、第2表示制御部316とを備えるが、本発明の実施形態はこれに限定されない。例えば、HMD100の接続装置10の第1制御部120が、第1判定部311と、第2判定部312と、第1検出部313と、第2検出部314と、調整部315と、第2表示制御部316とを備えてもよい。HMD100の接続装置10の第1制御部120が、第1判定部311と、第2判定部312と、第1検出部313と、第2検出部314と、調整部315と、第2表示制御部316とを備える形態を、以下の説明において、「本発明の他の実施形態」と記載する場合がある。
また、例えば、スマートフォン300の第2制御部310が、第1判定部311、第2判定部312、第1検出部313、第2検出部314、調整部315、及び第2表示制御部316の一部を備え、HMD100の接続装置10の第1制御部120が、第1判定部311、第2判定部312、第1検出部313、第2検出部314、調整部315、及び第2表示制御部316の残部を備えてもよい。
[2.具体例を用いたスマートフォンの第2制御部の処理の説明]
図6〜図10の各々は、第2制御部310の処理の具体例を示す図である。
[2−1.第2判定部の処理の説明]
図6は、表示パネル331がHMD100と対向している状態の一例を示す図である。
図6に示すように、使用者Uがスマートフォン300を操作する場合には、通常、HMD100と対向する方向DSにスマートフォン300が配置される。方向DSは、例えば、左導光板28と右導光板26とを含む平面に直交する方向を示す。方向DSは、第1カメラ61によって撮影された第1撮像画像に基づいて、第2制御部310によって検出される。
方向DAは、HMD100からスマートフォン300の表示パネル331の中心位置PCに向かう方向を示す。方向DAは、第1カメラ61によって撮像された第1撮像画像に基づいて、第2判定部312によって検出される。
方向DAは、方向DSに対して傾斜角θだけ傾斜している。傾斜角θは方向DSに対する方向DAの傾斜角を示す。
第2判定部312は、傾斜角θの絶対値が閾値角θS以下である場合に、第1カメラ61の第1撮像範囲内に表示パネル331が位置すると判定する。すなわち、第2判定部312は、傾斜角θが閾値角θS以下である場合に、第1条件を満たすと判定する。閾値角θSは、例えば、30度である。
このようにして、第2判定部312は、第1カメラ61の第1撮像画像に基づいて、第1条件を満たすか否かを判定できる。
A−A線は、表示パネル331の長辺方向を示す。B−B線は、表示パネル331の短辺方向を示す。
A−A線は、方向DAに対して傾斜角φだけ傾斜している。傾斜角φは、A−A線の方向DAに対する傾斜角を示す。また、B−B線は、方向DAに対して傾斜角ψだけ傾斜している。傾斜角ψは、B−B線の方向DAに対する傾斜角を示す。
傾斜角φ及び傾斜角ψは、使用者Uが表示パネル331に表示される第3画像P3を視認する場合において、使用者U又はHMD100に対する表示パネル331の表示面の傾きを規定する。
また、例えば、傾斜角φ及び傾斜角ψの各々が90度である場合には、表示パネル331の表示面は、方向DAと直交する。
本実施形態では、第1条件、及び第2条件を満たす場合に、第2判定部312は、表示パネル331がHMD100に対向していると判定するが、本発明の実施形態はこれに限定されない。第1条件、及び第2条件を満たし、且つ、傾斜角φ及び傾斜角ψの各々が所定の範囲である場合に、第2判定部312が、表示パネル331がHMD100に対向していると判定してもよい。所定の範囲は、例えば、90度±30度である。すなわち、傾斜角φ及び傾斜角ψの各々が所定の範囲であることは、次の式(1)及び式(2)を満たすことである。
60度≦φ≦120度 (1)
60度≦ψ≦120度 (2)
距離LAは、表示パネル331とHMD100との間の距離を示す。距離LAは、距離センサー64によって検出される。
本実施形態では、第1条件、及び第2条件を満たす場合に、第2判定部312は、表示パネル331がHMD100に対向していると判定するが、本発明の実施形態はこれに限定されない。第1条件、及び第2条件に加えて、下記の第3条件を満たす場合に、第2判定部312が、表示パネル331がHMD100に対向していると判定してもよい。
第3条件:第1カメラ61とHMD100との間の距離LAが閾値距離LS以下である。
すなわち、第2判定部312は、距離LAが閾値距離LS以下である場合に、第3条件を満たすと判定する。閾値距離LSは、例えば0.8mである。
また、例えば、複数の閾値距離(例えば、0.8m、0.5m、及び0.3m)を設け、第2判定部312は、距離LAに応じて、表示パネル331がHMD100に対向しているか否かの判定の基準を変更しても良い。
例えば、距離LAが短いほど、表示パネル331がHMD100に対向していると判する傾斜角φ及び傾斜角ψの範囲を狭くする。
例えば、距離LAが0.8m以下である場合には、表示パネル331がHMD100に対向していると判定する条件は、上記式(1)及び式(2)を満たすことである。また、距離LAが0.5m以下である場合には、表示パネル331がHMD100に対向していると判定する条件は、次の式(3)及び式(4)を満たすことである。
70度≦φ≦110度 (3)
70度≦ψ≦110度 (4)
更に、距離LAが0.3m以下である場合には、表示パネル331がHMD100に対向していると判定する条件は、次の式(5)及び式(6)を満たすことである。
80度≦φ≦100度 (5)
80度≦ψ≦100度 (6)
距離LAが短いほど、表示パネル331がHMD100に対向していると判する傾斜角φ及び傾斜角ψの範囲を狭くすることによって、調整部315は、第1画像P1及び第2画像P2の少なくとも一方の画像を適正に調整できる。
図7は、表示パネル331がHMD100と対向している状態の他の一例を示す図である。
図7に示すように、使用者Uがスマートフォン300を操作する場合には、通常、表示パネル331に対してベクトルVNの方向にHMD100が配置される。ベクトルVNは、表示パネル331の表示面の法線ベクトルを示す。
HMD100は、第2カメラ341の第2撮像範囲内に位置する。中心線CLは、第2カメラ341の第2撮像範囲の中心を示す。中心線CLは、ベクトルVNと平行である。すなわち、中心線CLは、表示パネル331の表示面を含む平面と直交する。
中心線CLに対して傾斜角ηA以下の範囲は、第2撮像範囲を示す。換言すれば、傾斜角ηAは、第2カメラ341の画角の半分に対応する。
直線LBは、第2カメラ341と第1カメラ61とを結ぶ直線を示す。傾斜角ηBは、直線LBの中心線CLに対する傾斜角を示す。図7に示すように、傾斜角ηBは、傾斜角ηAよりも小さい。したがって、第2カメラ341の撮像する第2撮像画像の中に、第1カメラ61の画像が含まれる。なお、第1カメラ61の画像は、第2撮像画像に対して画像処理等を実行することによって検出される。
第2カメラ341の撮像する第2撮像画像の中に、第1カメラ61の画像が含まれる場合に、第2判定部312は、第2カメラ341の第2撮像範囲内にHMD100が位置すると判定する。すなわち、第2判定部312は、第2条件を満たすと判定する。
このようにして、第2判定部312は、第2カメラ341の撮像する第2撮像画像に基づいて、第2条件を満たすか否かを判定できる。
本実施形態では、第2カメラ341の撮像する第2撮像画像の中に、第1カメラ61の画像が含まれる場合に、第2判定部312は、第2カメラ341の第2撮像範囲内にHMD100が位置すると判定するが、本発明の実施形態はこれに限定されない。第2判定部312が、第2撮像画像に基いて、第2カメラ341の第2撮像範囲内にHMD100が位置するか否かを判定すればよい。例えば、第2カメラ341の撮像する第2撮像画像の中に、右導光板26及び左導光板28の画像が含まれる場合に、第2判定部312は、第2カメラ341の第2撮像範囲内にHMD100が位置すると判定してもよい。
[2−2.調整部の処理の説明]
図8は、第3画像P3が第2画像P2と重なる状態の一例を示す図である。なお、図8〜図10では、表示パネル331がHMD100に対向している場合について説明する。すなわち、図8〜図10では、第2判定部312は、表示パネル331がHMD100に対向していると判定する。
図8の上側の図は、右視野範囲AR及び左視野範囲ALと、スマートフォン300の位置との関係を示す平面図である。右視野範囲ARは、使用者Uの右眼REが右導光板26を通して視認する視野の範囲を示す。左視野範囲ALは、使用者Uの左眼LEが左導光板28を通して視認する視野の範囲を示す。
図8の上側の図に示すように、スマートフォン300は、右視野範囲ARの左右方向の中央部に位置している。なお、スマートフォン300は、上下方向についても右視野範囲ARの中央部に位置している。また、スマートフォン300は、左視野範囲ALには入っていない。
すなわち、第1検出部313は、第1画像P1が第3画像P3と重なっていないことを検出し、第2画像P2が第3画像P3と重なっていることを検出する。
図8の下側の図は、使用者Uの右眼REが右導光板26を通して視認する画像と、使用者Uの左眼LEが左導光板28を通して視認する画像とを示す。図8の下側の右図は、使用者Uの右眼REが右導光板26を通して視認する画像を示し、図8の下側の左図は、使用者Uの左眼LEが左導光板28を通して視認する画像を示す。
第1画像P1が第3画像P3と重なっていないことを第1検出部313が検出するため、調整部315は、第1画像P1を調整しない。そこで、第2表示制御部316は、左表示部24及び左導光板28に第1画像P1を表示させる。その結果、図8の下側の左図に示すように、使用者Uの左眼LEは、左導光板28を通して、第1画像P1を視認する。
第2画像P2が第3画像P3と重なっていることを第1検出部313が検出するため、調整部315は、第2画像P2を調整する。ここでは、調整部315は、第2画像P2の表示を禁止する。そこで、第2表示制御部316は、第2画像P2を表示しない。その結果、図8の下側の右図に示すように、使用者Uの右眼REは、右導光板26を通して、第3画像P3を含むスマートフォン300を視認する。
このようにして、使用者Uは、右眼REで第3画像P3を含むスマートフォン300を視認でき、左眼LEで、第1画像P1を視認できる。したがって、スマートフォン300の表示パネル331に表示される第3画像P3の視認性を確保して、第1画像P1の視認性の低下を抑制できる。
図9は、第3画像P3が第2画像P2と重なる状態の他の一例を示す図である。図9の上側の図は、右視野範囲AR及び左視野範囲ALと、スマートフォン300の位置との関係を示す平面図である。
図9の上側の図に示すように、スマートフォン300は、右視野範囲ARの左右方向の中央部に位置している。なお、スマートフォン300は、上下方向については、右視野範囲ARの下部に位置している。すなわち、図9では、スマートフォン300の上下方向の位置が図8と相違している。また、スマートフォン300は、左視野範囲ALには入っていない。
すなわち、第1検出部313は、第1画像P1が第3画像P3と重なっていないことを検出し、第2画像P2が第3画像P3と重なっていることを検出する。
図9の下側の右図は、使用者Uの右眼REが右導光板26を通して視認する画像を示し、図9の下側の左図は、使用者Uの左眼LEが左導光板28を通して視認する画像を示す。
第1画像P1が第3画像P3と重なっていないことを第1検出部313が検出するため、調整部315は、第1画像P1を調整しない。そこで、第2表示制御部316は、左表示部24及び左導光板28に第1画像P1を表示させる。その結果、図9の下側の左図に示すように、使用者Uの左眼LEは、左導光板28を通して、第1画像P1を視認する。
第2画像P2が第3画像P3と重なっていることを第1検出部313が検出するため、調整部315は、第2画像P2を調整する。第2検出部314は、第2重畳領域AD2を検出する。第2重畳領域AD2は、第2画像P2が第3画像P3と重なっている領域を示す。図9の下側の右図に示すように、第2重畳領域AD2は、第2画像P2の下部領域に対応する。そこで、調整部315は、第2画像P2のうちの第2重畳領域AD2に対応する画像の表示を禁止する。その結果、図9の下側の右図に示すように、使用者Uの右眼REは、右導光板26を通して、第2上画像P2Uと、第3上画像P3Uとを視認する。第2上画像P2Uは、第2画像P2の上部領域に対応する。第3上画像P3Uは、第3画像P3の上部領域に対応する。
このようにして、使用者Uは、右眼REで第2上画像P2Uと第3上画像P3Uとを視認でき、左眼LEで、第1画像P1を視認できる。したがって、スマートフォン300の表示パネル331に表示される第3画像P3の視認性を確保して、第1画像P1及び第2画像P2の視認性の低下を抑制できる。
図10は、第3画像P3が第1画像P1及び第2画像P2と重なる状態の一例を示す図である。図10の上側の図は、右視野範囲AR及び左視野範囲ALと、スマートフォン300の位置との関係を示す平面図である。
図10の上側の図に示すように、スマートフォン300は、右視野範囲ARの左右方向の左部に位置している。また、スマートフォン300は、左視野範囲ALの左右方向の右部に位置している。なお、スマートフォン300は、上下方向については、右視野範囲AR及び左視野範囲ALの中央部に位置している。すなわち、図10では、スマートフォン300の左右方向の位置が図8と相違している。
図10の下側の右図は、使用者Uの右眼REが右導光板26を通して視認する画像を示し、図10の下側の左図は、使用者Uの左眼LEが左導光板28を通して視認する画像を示す。
第1画像P1が第3画像P3と重なっていることを第1検出部313が検出するため、調整部315は、第1画像P1を調整する。第2検出部314は、第1重畳領域AD1を検出する。第1重畳領域AD1は、第1画像P1が第3画像P3と重なっている領域を示す。図9の下側の左図に示すように、第1重畳領域AD1は、第1画像P1の右部領域に対応する。そこで、調整部315は、第1画像P1のうちの第1重畳領域AD1に対応する画像の表示を禁止する。その結果、図9の下側の左図に示すように、使用者Uの左眼LEは、左導光板28を通して、第1左画像P1Lと、第3画像P3とを視認する。第1左画像P1Lは、第1画像P1の左部領域に対応する。
第2画像P2が第3画像P3と重なっていることを第1検出部313が検出するため、調整部315は、第2画像P2を調整する。第2検出部314は、第2重畳領域AD2を検出する。第2重畳領域AD2は、第2画像P2が第3画像P3と重なっている領域を示す。図10の下側の右図に示すように、第2重畳領域AD2は、第2画像P2の左部領域に対応する。そこで、調整部315は、第2画像P2のうちの第2重畳領域AD2に対応する画像の表示を禁止する。その結果、図10の下側の右図に示すように、使用者Uの右眼REは、右導光板26を通して、第2右画像P2Rと、第3画像P3とを視認する。第2右画像P2Rは、第2画像P2の右部領域に対応する。
このようにして、使用者Uは、右眼REで第2右画像P2Rと第3画像P3とを視認でき、左眼LEで、第1左画像P1Lと第3画像P3とを視認できる。したがって、スマートフォン300の表示パネル331に表示される第3画像P3の視認性を確保して、第1画像P1及び第2画像P2の視認性の低下を抑制できる。
[3.スマートフォンの第2制御部の処理の説明]
図11は、スマートフォン300の第2制御部310の処理の一例を示すフローチャートである。
まず、図11に示すように、ステップS101において、第2制御部310が、第1カメラ61が撮像した第1撮像画像を取得する。
次に、ステップS103において、第2判定部312は、第1カメラ61の第1撮像範囲内に表示パネル331が位置するか否かを判定する。換言すれば、第2判定部312は、第1カメラ61が撮像した第1撮像画像が表示パネル331に表示された第3画像P3を含むか否かを判定する。
第1撮像画像が第3画像P3を含まないと第2判定部312が判定した場合(ステップS103;NO)には、処理がステップS127に進む。第1撮像画像が第3画像P3を含むと第2判定部312が判定した場合(ステップS103;YES)には、処理がステップS105に進む。
そして、ステップS105において、第2制御部310が、第2カメラ341が撮像した第2撮像画像を取得する。
次に、ステップS107において、第2判定部312は、第2カメラ341の第2撮像範囲内にHMD100が位置するか否かを判定する。換言すれば、第2判定部312は、第2カメラ341が撮像した第2撮像画像がHMD100の画像を含むか否かを判定する。HMD100の画像は、本実施形態では、図7を参照して説明したように、例えば、HMD100の第1カメラ61の画像である。
第2撮像画像がHMD100の画像を含まないと第2判定部312が判定した場合(ステップS107;NO)には、処理がステップS127に進む。第2撮像画像がHMD100の画像を含むと第2判定部312が判定した場合(ステップS107;YES)には、処理がステップS109に進む。
そして、ステップS109において、第2判定部312は、表示パネル331がHMD100に対向していると判定する。
次に、ステップS111において、第1検出部313は、第3画像P3が第1画像P1と重なっているか否かを判定する。
第3画像P3が第1画像P1と重なっていないと第1検出部313が判定した場合(ステップS111;NO)には、処理がステップS117に進む。
そして、ステップS117において、第2表示制御部316が、第1画像P1を左表示部24及び左導光板28に表示させる。その後、処理がステップS119に進む。
第3画像P3が第1画像P1と重なっていると第1検出部313が判定した場合(ステップS111;YES)には、処理がステップS113に進む。
そして、ステップS113において、第2検出部314が、第1画像P1が第3画像P3と重なっている領域を示す第1重畳領域AD1を検出する。
次に、ステップS115において、調整部315は、第1画像P1における第1重畳領域AD1の表示を禁止し、第2表示制御部316が、調整後の第1画像P1を左表示部24及び左導光板28に表示させる。その後、処理がステップS119に進む。
次に、ステップS119において、第1検出部313は、第3画像P3が第2画像P2と重なっているか否かを判定する。
第3画像P3が第2画像P2と重なっていないと第1検出部313が判定した場合(ステップS119;NO)には、処理がステップS125に進む。
そして、ステップS125において、第2表示制御部316が、第2画像P2を右表示部22及び右導光板26に表示させる。その後、処理がステップS127に進む。
第3画像P3が第2画像P2と重なっていると第1検出部313が判定した場合(ステップS119;YES)には、処理がステップS121に進む。
そして、ステップS121において、第2検出部314が、第2画像P2が第3画像P3と重なっている領域を示す第2重畳領域AD2を検出する。
次に、ステップS123において、調整部315は、第2画像P2における第2重畳領域AD2の表示を禁止し、第2表示制御部316が、調整後の第2画像P2を右表示部22及び右導光板26に表示させる。その後、処理がステップS127に進む。
そして、ステップS127において、第2制御部310が、処理を終了するか否かを判定する。
処理を終了しないと第2制御部310が判定した場合(ステップS127;NO)には、処理がステップS101に戻る。処理を終了すると第2制御部310が判定した場合(ステップS127;YES)には、処理が終了される。
なお、図11のステップS111とステップS119とは、「検出ステップ」の一例に対応する。ステップS115とステップS123とは、「調整ステップ」の一例に対応し、「表示制御ステップ」の一例にも対応する。また、ステップS117とステップS125とは、「表示制御ステップ」の一例に対応する。
[4.本実施形態の効果]
以上説明したように、本実施形態に係る表示システム1は、使用者Uの頭部に装着されるHMD100と、HMD100が接続されるスマートフォン300とを備える表示システム1であって、HMD100は、使用者Uの左眼LE側に位置し、外景に重ねて第1画像P1を表示する左表示部24及び左導光板28と、使用者Uの右眼RE側に位置し、外景に重ねて第1画像P1に対応する第2画像P2を表示する右表示部22及び右導光板26と、を備え、スマートフォン300は、第3画像P3を表示する表示パネル331と、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する第1検出部313と、第1検出部313の検出結果に基づいて、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する調整部315と、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる第2表示制御部316と、を備える、表示システム1である。
したがって、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整し、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させるため、スマートフォン300の表示パネル331に表示される第3画像P3の視認性の低下を抑制できる。
また、調整部315は、第2画像P2を第1画像P1と異ならせるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。
したがって、第2画像P2を第1画像P1と異ならせるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整するため、図8〜図10を参照して説明したように、第1画像P1及び第2画像P2の少なくとも一方の視認性の低下を抑制できる。
また、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1を調整し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2を調整する。
したがって、第1画像P1が第3画像P3と重なっている場合に、第1画像P1を調整し、第2画像P2が第3画像P3と重なっている場合に、第2画像P2を調整するため、簡素な処理で、第3画像P3の視認性の低下を抑制できる。また、簡素な処理で、第1画像P1及び第2画像P2の少なくとも一方の視認性の低下を抑制できる。
また、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1の表示を禁止し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2の表示を禁止する。
したがって、第1画像P1が第3画像P3と重なっている場合に、第1画像P1の表示を禁止し、第2画像P2が第3画像P3と重なっている場合に、第2画像P2の表示を禁止するため、簡素な処理で、第3画像P3の視認性の低下を抑制できる。また、簡素な処理で、第1画像P1及び第2画像P2の少なくとも一方の視認性の低下を抑制できる。
また、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1の透過率を調整し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2の透過率を調整する。
したがって、第1画像P1が第3画像P3と重なっている場合に、第1画像P1の透過率を調整するため、第1画像P1の表示を禁止する場合と比較して、第1画像P1の視認性の低下を抑制できる。また、第2画像P2が第3画像P3と重なっている場合に、第2画像P2の透過率を調整するため、第2画像P2の表示を禁止する場合と比較して、第2画像P2の視認性の低下を抑制できる。
また、スマートフォン300は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1が第3画像P3と重なっている領域を示す第1重畳領域AD1を検出し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2が第3画像P3と重なっている領域を示す第2重畳領域AD2を検出する第2検出部314を備え、調整部315は、第2検出部314の検出結果に基づいて、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。
したがって、第1重畳領域AD1及び第2重畳領域AD2に基づいて、第1画像P1及び第2画像P2の少なくとも一方の画像を調整するため、第1画像P1及び第2画像P2の視認性の低下を更に抑制できる。
また、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1における第1重畳領域AD1の表示を禁止し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2における第2重畳領域AD2の表示を禁止する。
したがって、第1画像P1が第3画像P3と重なっている場合に、第1重畳領域AD1の表示を禁止するため、第1画像P1の表示を禁止する場合と比較して、第1画像P1の視認性の低下を抑制できる。また、第2画像P2が第3画像P3と重なっている場合に、第2重畳領域AD2の表示を禁止するため、第2画像P2の表示を禁止する場合と比較して、第2画像P2の視認性の低下を抑制できる。
また、調整部315は、第1画像P1が第3画像P3と重なっていることを第1検出部313が検出した場合に、第1画像P1における第1重畳領域AD1の透過率を調整し、第2画像P2が第3画像P3と重なっていることを第1検出部313が検出した場合に、第2画像P2における第2重畳領域AD2の透過率を調整する。
したがって、第1画像P1が第3画像P3と重なっている場合に、第1重畳領域AD1の透過率を調整するため、第1重畳領域AD1の表示を禁止する場合と比較して、第1画像P1の視認性の低下を抑制できる。また、第2画像P2が第3画像P3と重なっている場合に、第2重畳領域AD2の透過率を調整するため、第2重畳領域AD2の表示を禁止する場合と比較して、第2画像P2の視認性の低下を抑制できる。
また、HMD100は、外景の第1撮像範囲を撮像する第1カメラ61を備え、第1検出部313は、第1カメラ61の撮像結果に基づいて、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出し、第2検出部314は、第1カメラ61の撮像結果に基づいて、第1重畳領域AD1、及び第2重畳領域AD2を検出する。
したがって、簡素な構成で、第1検出部313及び第2検出部314を実現できる。
また、HMD100は、外景の第1撮像範囲を撮像する第1カメラ61を備え、スマートフォン300は、第1カメラ61の撮像結果に基づいて、スマートフォン300が左手で把持されているか、右手で把持されているかを判定する第1判定部311を備え、第1検出部313は、スマートフォン300が左手で把持されていると第1判定部311が判定した場合に、第1画像P1が第3画像P3と重なっていることを検出し、スマートフォン300が右手で把持されていると第1判定部311が判定した場合に、第2画像P2が第3画像P3と重なっていることを検出する。
したがって、簡素な処理で、第1画像P1が第3画像P3と重なっていること、及び、第2画像P2が第3画像P3と重なっていることを検出できる。
また、スマートフォン300は、表示パネル331がHMD100に対向しているか否か判定する第2判定部312を備え、表示パネル331がHMD100に対向していると第2判定部312が判定した場合に、調整部315は、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する。
したがって、表示パネル331がHMD100に対向している場合に、第1画像P1及び第2画像P2の少なくとも一方の画像を調整するため、第1画像P1及び第2画像P2を適正に調整できる。例えば、表示パネル331がHMD100に対向していない場合には、第1画像P1及び第2画像P2の画像を調整しないため、第1画像P1及び第2画像P2を適正に調整できる。
また、HMD100は、外景の第1撮像範囲を撮像する第1カメラ61を備え、スマートフォン300は、外景の第2撮像範囲を撮像する第2カメラ341を備え、第2判定部312は、第1カメラ61が撮像した画像、及び第2カメラ341が撮像した画像に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定する。
したがって、第1カメラ61が撮像した画像、及び第2カメラ341が撮像した画像に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定するため、表示パネル331がHMD100に対向しているか否かを適正に判定できる。
本実施形態に係る制御プログラムは、使用者Uの頭部に装着され、使用者Uの左眼LE側に位置し、外景に重ねて第1画像P1を表示する左表示部24及び左導光板28と使用者Uの右眼RE側に位置し、外景に重ねて第1画像P1に対応する第2画像P2を表示する右表示部22及び右導光板26と、を備えるHMD100が接続され、第3画像P3を表示する表示パネル331と、第2プロセッサー310Aとを備えるスマートフォン300の制御プログラムであって、第2プロセッサー310Aを、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する第1検出部313、第1検出部313の検出結果に基づいて、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する調整部315、及び、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる第2表示制御部316として機能させる、制御プログラムである。
したがって、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整し、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させるため、スマートフォン300の表示パネル331に表示される第3画像P3の視認性の低下を抑制できる。
本実施形態に係るスマートフォン300の制御方法は、使用者Uの頭部に装着され、使用者Uの左眼LE側に位置し、外景に重ねて第1画像P1を表示する左表示部24及び左導光板28と、使用者Uの右眼RE側に位置し、外景に重ねて第1画像P1に対応する第2画像P2を表示する右表示部22及び右導光板26と、を備えるHMD100が接続され、第3画像P3を表示する表示パネル331と、第2プロセッサー310Aとを備えるスマートフォン300の制御方法であって、第2プロセッサー310Aが、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する検出ステップと、第2プロセッサー310Aが、検出ステップの検出結果に基づいて、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する調整ステップと、第2プロセッサー310Aが、調整ステップの調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる表示制御ステップと、を含む、スマートフォン300の制御方法である。
したがって、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整し、調整ステップの調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させるため、スマートフォン300の表示パネル331に表示される第3画像P3の視認性の低下を抑制できる。
本発明の他の実施形態に係るHMD100は、使用者Uの頭部に装着され画像表示部20と、第3画像P3を表示する表示パネル331を有するスマートフォン300、及び画像表示部20が接続される接続装置10と備えるHMD100であって、画像表示部20は、使用者Uの左眼LE側に位置し、外景に重ねて第1画像P1を表示する左表示部24及び左導光板28と、使用者Uの右眼RE側に位置し、外景に重ねて第1画像P1に対応する第2画像P2を表示する右表示部22及び右導光板26と、を備え、接続装置10は、第1画像P1及び第2画像P2の少なくとも一方が第3画像P3と重なっていることを検出する第1検出部313と、第1検出部313の検出結果に基づいて、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整する調整部315と、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させる第2表示制御部316と、を備える、HMD100である。
したがって、第3画像P3を視認することが可能になるように、第1画像P1及び第2画像P2の少なくとも一方の画像を調整し、調整部315の調整結果に基づいて、左表示部24及び左導光板28に第1画像P1を表示させ、右表示部22及び右導光板26に第2画像P2を表示させるため、スマートフォン300の表示パネル331に表示される第3画像P3の視認性の低下を抑制できる。
[5.他の実施形態]
本発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記実施形態では、「情報処理装置」がスマートフォン300であるが、これに限定されない。「情報処理装置」は、使用者Uが携帯可能に構成され、表示部と、操作部と、制御部とを備えればよい。例えば、「情報処理装置」がPDA端末でもよいし、タブレット型パーソナルコンピューターでもよい。
また、上記実施形態では、接続装置10が画像表示部20と有線接続される構成を例示したが、これに限定されず、接続装置10に対して画像表示部20が無線接続される構成であってもよい。
また、上記実施形態では、接続装置10がスマートフォン300と有線接続される構成を例示したが、これに限定されず、接続装置10に対してスマートフォン300が無線接続される構成であってもよい。
また、接続装置10が備える一部の機能を画像表示部20に設けてもよく、接続装置10を複数の装置により実現してもよい。例えば、接続装置10に代えて、使用者Uの身体、着衣、或いは、使用者Uが身につける装身具に取り付け可能なウェアラブルデバイスを用いてもよい。この場合のウェアラブルデバイスは、例えば、時計型の装置、指輪型の装置、レーザーポインター、マウス、エアーマウス、ゲームコントローラー、ペン型のデバイス等であってもよい。
また、上記実施形態では、画像表示部20と接続装置10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明した。これに限定されず、接続装置10と画像表示部20とが一体に構成され、使用者Uの頭部に装着される構成とすることも可能である。
また、上記実施形態において、使用者Uが表示部を透過して外景を視認する構成は、右導光板26及び左導光板28が外光を透過する構成に限定されない。例えば外景を視認できない状態で画像を表示する表示装置にも適用可能である。具体的には、第1カメラ61の撮像画像、この撮像画像に基づき生成される画像やCG、予め記憶された画像データや外部から入力される画像データに基づく画像等を表示する表示装置に、適用できる。例えば、第1カメラ61により撮像する外景の画像と、表示画像とを合成した合成画像を画像表示部20により表示する構成とすれば、画像表示部20が外光を透過しなくても、使用者Uに外景と画像とを視認可能に表示できる。このような、いわゆるビデオシースルー型の表示装置に適用することも勿論可能である。
また、例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者Uの左眼LEに対応して画像を表示する表示部と、使用者Uの右眼REに対応して画像を表示する表示部とを備えていればよい。また、表示装置は、例えば、自動車や飛行機等の車両に搭載されるHMDとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたHMDとして構成されてもよい。この場合には、使用者Uの身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
また、画像光を使用者Uの眼に導く光学系として、右導光板26及び左導光板28の一部に、ハーフミラー261、281により虚像が形成される構成を例示した。これに限定されず、右導光板26及び左導光板28の全面又は大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合には、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
更に、光学素子は、ハーフミラー261、281を有する右導光板26、左導光板28に限定されず、画像光を使用者Uの眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図4、図5等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。
また、第2制御部310が実行する第2制御プログラムは、不揮発性記憶部又は第2制御部310内の他の記憶部に記憶されてもよい。また、外部の装置に記憶された第2制御プログラムを、通信部等を介して取得して実行する構成としてもよい。
また、接続装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、接続装置10の第1プロセッサーと同様のプロセッサーが画像表示部20に配置されてもよいし、接続装置10が備える第1プロセッサーと画像表示部20のプロセッサーとが別々に分けられた機能を実行する構成としてもよい。
また、図11に示すフローチャートの処理単位は、スマートフォン300の第2制御部310の処理を理解容易にするために、主な処理内容に応じて分割したものである。図11に示すフローチャートに示す処理単位の分割の仕方や名称によって実施形態が制限されることはない。また、第2制御部310の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
また、第2制御部310の処理の一部又は全部を、第1制御部120が実行してもよい。
また、スマートフォン300の制御方法は、スマートフォン300が備える第2プロセッサー310Aに、スマートフォン300の制御方法に対応した第2制御プログラムを実行させることで実現できる。また、この第2制御プログラムは、コンピューターで読み取り可能に記録した記録媒体に記録しておくことも可能である。記録媒体としては、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Versatile Disc)、Blu−ray(登録商標)Disc、光磁気ディスク、フラッシュメモリー、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、記録媒体は、画像表示装置が備える内部記憶装置であるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。また、スマートフォン300の制御方法に対応した第2制御プログラムをサーバー装置等に記憶させておき、サーバー装置からスマートフォン300に、第2制御プログラムをダウンロードすることでスマートフォン300の制御方法を実現することもできる。
1…表示システム、10…接続装置(コントロールユニット)、11、11A、11D…コネクター、13、14…輝度調整キー、15、16…音量調整キー、20…画像表示部(表示ユニット)、21…右保持部、22…右表示部(第2表示部の一部)、23…左保持部、24…左表示部(第1表示部の一部)、26…右導光板(第2表示部の一部)、261…ハーフミラー、28…左導光板(第1表示部の一部)、281…ハーフミラー、40…接続ケーブル、46…USBケーブル、61…第1カメラ(第1撮像部)、64…距離センサー、66…赤外線センサー、68…内側カメラ、100…HMD(表示装置)、120…第1制御部、122…センサー制御部、124…第1表示制御部、126…電源制御部、130…不揮発性記憶部、140…操作部、145…接続部、147…音声処理部、210…右表示部基板、221…OLEDユニット、230…左表示部基板、235…6軸センサー、237…磁気センサー、241…OLEDユニット、300…スマートフォン(情報処理装置)、310…第2制御部、310A…第2プロセッサー、310B…第2メモリー、311…第1判定部、312…第2判定部、313…第1検出部、314…第2検出部、315…調整部、316…第2表示制御部(表示制御部)、330…表示部、331…表示パネル(第3表示部)、332…タッチセンサー、351…6軸センサー、352…磁気センサー、AD1…第1重畳領域、AD2…第2重畳領域、AL…左視野範囲、AR…右視野範囲、P1…第1画像、P2…第2画像、P3…第2画像、U…使用者、θ、φ、ψ、ηA、ηB…傾斜角。

Claims (15)

  1. 使用者の頭部に装着される表示装置と、前記表示装置が接続される情報処理装置とを備える表示システムであって、
    前記表示装置は、
    前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、
    前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備え、
    前記情報処理装置は、
    第3画像を表示する第3表示部と、
    前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する第1検出部と、
    前記第1検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部と、
    前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部と、を備える、表示システム。
  2. 前記調整部は、前記第2画像を前記第1画像と異ならせるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する、請求項1に記載の表示システム。
  3. 前記調整部は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像を調整し、
    前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像を調整する、請求項1又は請求項2に記載の表示システム。
  4. 前記調整部は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像の表示を禁止し、
    前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像の表示を禁止する、請求項3に記載の表示システム。
  5. 前記調整部は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像の透過率を調整し、
    前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像の透過率を調整する、請求項3に記載の表示システム。
  6. 前記情報処理装置は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像が前記第3画像と重なっている領域を示す第1重畳領域を検出し、前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像が前記第3画像と重なっている領域を示す第2重畳領域を検出する第2検出部を備え、
    前記調整部は、前記第2検出部の検出結果に基づいて、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する、請求項1から5のいずれか1項に記載の表示システム。
  7. 前記調整部は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像における前記第1重畳領域の表示を禁止し、
    前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像における前記第2重畳領域の表示を禁止する、請求項6に記載の表示システム。
  8. 前記調整部は、
    前記第1画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第1画像における前記第1重畳領域の透過率を調整し、
    前記第2画像が前記第3画像と重なっていることを前記第1検出部が検出した場合に、前記第2画像における前記第2重畳領域の透過率を調整する、請求項6に記載の表示システム。
  9. 前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、
    前記第1検出部は、前記第1撮像部の撮像結果に基づいて、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出し、
    前記第2検出部は、前記第1撮像部の撮像結果に基づいて、前記第1重畳領域、及び前記第2重畳領域を検出する、請求項6から8のいずれか1項に記載の表示システム。
  10. 前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、
    前記情報処理装置は、前記第1撮像部の撮像結果に基づいて、前記情報処理装置が左手で把持されているか、右手で把持されているかを判定する第1判定部を備え、
    前記第1検出部は、
    前記情報処理装置が左手で把持されていると前記第1判定部が判定した場合に、前記第1画像が前記第3画像と重なっていることを検出し、
    前記情報処理装置が右手で把持されていると前記第1判定部が判定した場合に、前記第2画像が前記第3画像と重なっていることを検出する、請求項1から8のいずれか1項に記載の表示システム。
  11. 前記情報処理装置は、
    前記第3表示部が前記表示装置に対向しているか否か判定する第2判定部を備え、
    前記第3表示部が前記表示装置に対向していると前記第2判定部が判定した場合に、前記調整部は、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する、請求項1から8のいずれか1項に記載の表示システム。
  12. 前記表示装置は、前記外景の第1撮像範囲を撮像する第1撮像部を備え、
    前記情報処理装置は、前記外景の第2撮像範囲を撮像する第2撮像部を備え、
    前記第2判定部は、前記第1撮像部が撮像した画像、及び前記第2撮像部が撮像した画像に基づいて、前記情報処理装置の前記第3表示部が前記表示装置に対向しているか否かを判定する、請求項11に記載の表示システム。
  13. 使用者の頭部に装着され、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備える表示装置が接続され、第3画像を表示する第3表示部と、コンピューターとを備える情報処理装置の制御プログラムであって、
    前記コンピューターを、
    前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する検出部、
    前記検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部、及び、
    前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部として機能させる、制御プログラム。
  14. 使用者の頭部に装着され、前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備える表示装置が接続され、第3画像を表示する第3表示部と、コンピューターとを備える情報処理装置の制御方法であって、
    前記コンピューターが、前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する検出ステップと、
    前記コンピューターが、前記検出ステップの検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整ステップと、
    前記コンピューターが、前記調整ステップの調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御ステップと、を含む、情報処理装置の制御方法。
  15. 使用者の頭部に装着され表示ユニットと、第3画像を表示する第3表示部を有する情報処理装置、及び前記表示ユニットが接続されるコントロールユニットと備える表示装置であって、
    前記表示ユニットは、
    前記使用者の左眼側に位置し、外景に重ねて第1画像を表示する第1表示部と、
    前記使用者の右眼側に位置し、前記外景に重ねて前記第1画像に対応する第2画像を表示する第2表示部と、を備え、
    前記コントロールユニットは、
    前記第1画像及び前記第2画像の少なくとも一方が前記第3画像と重なっていることを検出する第1検出部と、
    前記第1検出部の検出結果に基づいて、前記第3画像を視認することが可能になるように、前記第1画像及び前記第2画像の少なくとも一方の画像を調整する調整部と、
    前記調整部の調整結果に基づいて、前記第1表示部に前記第1画像を表示させ、前記第2表示部に前記第2画像を表示させる表示制御部と、を備える、表示装置。
JP2019164581A 2019-09-10 2019-09-10 表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置 Pending JP2021043300A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019164581A JP2021043300A (ja) 2019-09-10 2019-09-10 表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置
US17/015,087 US11269188B2 (en) 2019-09-10 2020-09-09 Display system, control program for information processing device, method for controlling information processing device, and display device
CN202010939654.6A CN112558300B (zh) 2019-09-10 2020-09-09 显示系统、记录介质、信息处理装置的控制方法和显示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019164581A JP2021043300A (ja) 2019-09-10 2019-09-10 表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置

Publications (1)

Publication Number Publication Date
JP2021043300A true JP2021043300A (ja) 2021-03-18

Family

ID=74850909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019164581A Pending JP2021043300A (ja) 2019-09-10 2019-09-10 表示システム、情報処理装置の制御プログラム、情報処理装置の制御方法、及び表示装置

Country Status (3)

Country Link
US (1) US11269188B2 (ja)
JP (1) JP2021043300A (ja)
CN (1) CN112558300B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114821006B (zh) * 2022-06-23 2022-09-20 盾钰(上海)互联网科技有限公司 交互式间接推理的孪生体态检测方法及系统

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5834439B2 (ja) 2011-03-24 2015-12-24 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9217867B2 (en) 2011-03-24 2015-12-22 Seiko Epson Corporation Head-mounted display device and control method for the head-mounted display device
JP5884576B2 (ja) * 2012-03-16 2016-03-15 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9335547B2 (en) * 2013-03-25 2016-05-10 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
KR102243656B1 (ko) * 2014-09-26 2021-04-23 엘지전자 주식회사 모바일 디바이스, hmd 및 시스템
US10001857B2 (en) * 2015-05-13 2018-06-19 Seiko Epson Corporation Display apparatus and method of controlling display apparatus
WO2016194844A1 (ja) * 2015-05-29 2016-12-08 京セラ株式会社 ウェアラブル装置
JP2017135570A (ja) * 2016-01-28 2017-08-03 セイコーエプソン株式会社 撮像システム、及び、撮像システムの制御方法
JP2017134630A (ja) * 2016-01-28 2017-08-03 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP2018041008A (ja) * 2016-09-09 2018-03-15 日本精機株式会社 表示装置
KR20180058097A (ko) * 2016-11-23 2018-05-31 삼성전자주식회사 이미지를 표시하는 전자 장치 및 그 제어 방법
JP2018142857A (ja) * 2017-02-28 2018-09-13 セイコーエプソン株式会社 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP7035510B2 (ja) * 2017-12-22 2022-03-15 セイコーエプソン株式会社 表示システム、及び、表示システムの制御方法

Also Published As

Publication number Publication date
US11269188B2 (en) 2022-03-08
CN112558300B (zh) 2023-03-28
CN112558300A (zh) 2021-03-26
US20210072548A1 (en) 2021-03-11

Similar Documents

Publication Publication Date Title
JP7087481B2 (ja) 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム
JP7238456B2 (ja) 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法
JP2018160735A (ja) 透過型表示装置、表示制御方法、およびコンピュータープログラム
US20200227007A1 (en) Display system, control method of display system, information processing device, and control program of information processing device
JP7035510B2 (ja) 表示システム、及び、表示システムの制御方法
JP2019082891A (ja) 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム
US11353704B2 (en) Head mounted device (HMD) coupled to smartphone executing personal authentication of a user
US11269188B2 (en) Display system, control program for information processing device, method for controlling information processing device, and display device
US11156841B2 (en) Display device, control program for display device, control method for display device, and display system
CN112581920B (zh) 显示系统、显示控制方法以及记录介质
CN111488072B (zh) 信息处理装置、信息处理装置的控制方法以及记录介质
JP2018042004A (ja) 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP2017142294A (ja) 表示装置、及び、表示装置の制御方法
JP2021047370A (ja) 表示装置、表示装置の制御方法、表示装置の制御プログラム、及び表示システム
US11520414B2 (en) Display system, control program for information processing device, and method for controlling information processing device
US11422379B2 (en) Head-mounted display apparatus and display method adopting interpupillary distance based image modification
JP2021057747A (ja) 表示システム、画像表示装置、画像表示方法及びプログラム