JP2020135544A - 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法 - Google Patents

表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法 Download PDF

Info

Publication number
JP2020135544A
JP2020135544A JP2019029701A JP2019029701A JP2020135544A JP 2020135544 A JP2020135544 A JP 2020135544A JP 2019029701 A JP2019029701 A JP 2019029701A JP 2019029701 A JP2019029701 A JP 2019029701A JP 2020135544 A JP2020135544 A JP 2020135544A
Authority
JP
Japan
Prior art keywords
unit
display
image
display unit
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019029701A
Other languages
English (en)
Other versions
JP7238456B2 (ja
JP2020135544A5 (ja
Inventor
小林 伸一
Shinichi Kobayashi
伸一 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2019029701A priority Critical patent/JP7238456B2/ja
Priority to CN202010101284.9A priority patent/CN111600990B/zh
Priority to US16/795,829 priority patent/US11393431B2/en
Publication of JP2020135544A publication Critical patent/JP2020135544A/ja
Publication of JP2020135544A5 publication Critical patent/JP2020135544A5/ja
Application granted granted Critical
Publication of JP7238456B2 publication Critical patent/JP7238456B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72415User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories for remote control of appliances
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/012Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04804Transparency, e.g. transparent or translucent windows
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

【課題】スマートフォン等の情報処理装置に表示される画像の視認性を向上する。
【解決手段】HMD100と、HMD100が接続されるスマートフォン300とを備える表示システム1であって、HMD100は、外景を視認可能に構成され、前記外景に重ねて第1画像PT1を表示し、スマートフォン300は、第2画像PT2を表示する表示パネル331と、表示パネル331に配置されるタッチセンサー332と、表示パネル331がHMD100に対向しているか否かを判定する第1判定部313と、HMD100に対する表示パネル331の位置を検出する検出部314と、表示パネル331の位置が第1画像PT1に含まれるか否かを判定する第2判定部315と、第1判定部313の判定結果と第2判定部315の判定結果とに基づいて、映像表示部20における第1画像PT1の表示を調整する調整部316と、を備える。
【選択図】図5

Description

本発明は、表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法に関する。
スマートフォンのような携帯端末装置に表示される画像を、HMDのような表示装置にミラーリング表示することが知られている(例えば、特許文献1参照)。
特許文献1に記載の携帯端末装置は、タッチパネルと、プロセッサーとを備える。プロセッサーは、コンテンツに関連付けられた設定情報に基づいて、タッチパネルにコンテンツを表示させてタッチ入力を受け付ける第1のモードから、タッチパネルにコンテンツを表示させずにタッチ入力を受け付ける第2のモードに携帯端末装置の操作モードを切り換える。そして、操作モードが切り替えられた場合に、コンテンツを表示装置のディスプレイに表示させる。
特開2015−197694号公報
特許文献1記載の構成では、スマートフォンに表示された画像を見難い場合があるという課題があった。
例えば、HMDに表示された画像とスマートフォンに表示された画像とが重なる場合には、スマートフォンに表示された画像を見難い場合があった。
上記課題を解決する一態様は、使用者の頭部に装着される表示装置と、前記表示装置が接続される情報処理装置とを備える表示システムであって、前記表示装置は、外景を視認可能に構成され、前記外景に重ねて第1画像を表示する第1表示部と、前記第1画像を前記第1表示部に表示させる第1表示制御部と、を備え、前記情報処理装置は、第2画像を表示する第2表示部と、前記第2表示部に配置され、位置入力操作を受け付けて、操作位置の座標を検出する位置入力部と、前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定部と、前記表示装置に対する前記第2表示部の位置を検出する検出部と、前記表示装置に対する前記第2表示部の位置が前記第1表示部により視認される前記第1画像に含まれるか否かを判定する第2判定部と、前記第1判定部の判定結果と前記第2判定部の判定結果とに基づいて、前記第1表示部における前記第1画像の表示を調整する調整部と、を備える、表示システムである。
上記表示システムにおいて、前記表示装置は、前記外景を撮像する撮像部を備え、前記第1判定部は、前記撮像部が撮像した画像に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する構成であってもよい。
上記表示システムにおいて、前記表示装置は、前記使用者の視線の方向を検出する視線検出部を備え、前記第1判定部は、前記視線検出部の検出結果に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する構成であってもよい。
上記表示システムにおいて、前記情報処理装置は、赤外線を出射する赤外線出射部を備え、前記表示装置は、前記赤外線を受光する赤外線受光部を備え、前記第1判定部は、前記赤外線受光部の受光結果に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する構成であってもよい。
上記表示システムにおいて、前記赤外線出射部は、前記第2表示部の表示面の法線方向に前記赤外線を出射する構成であってもよい。
上記表示システムにおいて、前記表示装置は、距離を検出する距離センサーを備え、前記第1判定部は、前記距離センサーによって検出された前記表示装置と前記第2表示部との間の距離に基づいて、前記第2表示部が前記表示装置に対向しているか否かを判定する構成であってもよい。
上記表示システムにおいて、前記第2表示部が前記表示装置に対向していると前記第1判定部が判定し、前記表示装置に対する前記第2表示部の位置が前記第1表示部により視認される前記第1画像に含まれると前記第2判定部が判定した場合に、前記調整部は、前記第2表示部における前記画像の表示を調整する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第1表示部における前記第1画像のうちの前記第2表示部の位置に対応する画像の濃度を低減する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の表示を調整する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の少なくとも一部の画像を非表示にする構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の表示位置を移動する構成であってもよい。
上記表示システムにおいて、前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像を縮小して表示する構成であってもよい。
上記表示システムにおいて、前記情報処理装置は、前記第2表示部に前記第2画像を表示させる第2表示制御部と、前記第2画像を示すデータを前記表示装置に伝送する伝送部と、を備え、前記第1画像は前記第2画像と一致する構成であってもよい。
上記課題を解決する別の一態様は、外景を視認可能に構成され、前記外景に重ねて画像を表示する第1表示部を有する表示装置が接続され、第2表示部と、前記第2表示部に配置される位置入力部と、コンピューターとを備える情報処理装置の制御プログラムであって、前記コンピューターを、前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定部、前記表示装置に対する前記情報処理装置の前記第2表示部の位置を検出する検出部、前記表示装置に対する前記第2表示部の位置が前記第1表示部に表示される前記画像に含まれるか否かを判定する第2判定部、及び、前記第1判定部の判定結果と前記第2判定部の判定結果とに基づいて、前記第1表示部における前記画像の表示を調整する調整部、として機能させる、制御プログラムである。
上記課題を解決する更に別の一態様は、外景を視認可能に構成され、前記外景に重ねて画像を表示する第1表示部を有する表示装置が接続され、第2表示部と、前記第2表示部に配置される位置入力部と、コンピューターとを備える情報処理装置の制御方法であって、前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定ステップと、前記表示装置に対する前記情報処理装置の前記第2表示部の位置を検出する検出ステップと、前記表示装置に対する前記第2表示部の位置が前記第1表示部に表示される前記画像に含まれるか否かを判定する第2判定ステップと、前記第1判定ステップの判定結果と前記第2判定ステップの判定結果とに基づいて、前記第1表示部における前記画像の表示を調整する調整ステップと、を含む、情報処理装置の制御方法である。
表示システムの構成を示す図。 画像表示部の光学系の構成を示す図。 画像表示部の要部構成を示す斜視図。 HMDを構成する各部の構成を示す図。 HMDの第1制御部とスマートフォンとの構成を示す図。 表示パネルがHMDと対向している状態の一例を示す図。 表示パネルがHMDと対向している状態の他の一例を示す図。 表示パネルの位置が第1画像に含まれる状態の一例を示す画面図。 第1画像の一部の画像を非表示にする状態の一例を示す画面図。 第1画像を縮小して移動する状態の一例を示す画面図。 第1制御部及び第2制御部の処理を示すフローチャート。
以下、図面を参照して実施形態について説明する。
[1.表示システムの構成]
[1−1.表示システムの全体構成]
図1は、表示システム1の概略構成を示す図である。
図1に示すように、表示システム1は、HMD(Head Mounted Display)100を備える。HMD100は、使用者の頭部に装着される映像表示部20と、接続装置10とを備え、映像表示部20により、使用者の頭部に装着された状態で使用者に虚像を視認させる装置である。HMD100は、「表示装置」の一例に対応する。以下の説明において、使用者とは、HMD100を装着して使用するユーザーを指す。
接続装置10は、箱形のケースに、コネクター11A及びコネクター11Dを備える。コネクター11Aには、映像表示部20が接続ケーブル40を介して接続される。以下、コネクター11A、11Dを区別しない場合はコネクター11と表記する場合がある。接続装置10のケースは、筐体、或いは本体ということもできる。
表示システム1は、HMD100にスマートフォン300を接続して構成されるシステムである。コネクター11Dは、HMD100においてスマートフォン300が接続されるインターフェイスである。すなわち、本実施形態では、コネクター11Dにスマートフォン300が接続される。スマートフォン300は、「情報処理装置」の一例に対応する。
なお、スマートフォン300は情報処理装置の一例に過ぎない。情報処理装置は、使用者が携帯可能であって、画像を表示する表示部と、タッチセンサーのような位置入力部と、コンピューターとを備えればよい。例えば、情報処理装置として、PDA(Personal Digital Assistant)端末、タブレット型パーソナルコンピューター等を接続装置10に接続可能である。
コネクター11は、通信ケーブルを接続する有線インターフェイスであり、この通信ケーブルにより、接続装置10は外部の装置と接続される。コネクター11Aは、接続ケーブル40を接続する端子、及び、コネクター11Aを介して信号を送受信するインターフェイス回路を備える。
コネクター11Aは、接続装置10に映像表示部20を接続するために設けられる。接続ケーブル40は、接続装置10から映像表示部20に対する電源供給を行うとともに、映像表示部20と接続装置10とが相互にデータを送受信する機能を有する。
コネクター11Dは、スマートフォン300から映像データが入力され、スマートフォン300に対してセンサーデータの出力が可能なインターフェイスである。スマートフォン300は、不揮発性記憶部に記録されたコンテンツデータを再生する。コネクター11Dは、例えば、公知の通信インターフェイス規格に準拠するコネクターである。
本実施形態では、コネクター11Dは、一例として、映像データ及び各種データの入出力に対応するインターフェイスであり、USBケーブル46を介してスマートフォン300が接続される。
コネクター11Dとして、例えば、USB(Universal Serial Bus)−TypeC規格のコネクターを採用することができる。USB−TypeCに対応するインターフェイスは、USB3.1規格に従ったデータの伝送、及び、20ボルト、5アンペア以内の直流電力の供給が可能である。
また、USB−TypeCの代替モードの機能として、HDMI(High Definition Multimedia Interface)規格の映像データ、MHL(Mobile High−definition Link)規格の映像データ等を伝送できる。スマートフォン300は、USBケーブル46を介して、電源供給、データの送受信、及び、映像や音声のストリーミングデータの供給等を行うことができる。USB−TypeCの代替モードは、Alternativeモードとして知られている。HDMIは登録商標である。
映像表示部20は、本実施形態では眼鏡形状を有する。映像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示部22、左表示部24、右導光板26、及び左導光板28を備える。
映像表示部20は、「第1表示部」の一例に対応する。
右保持部21及び左保持部23は、前部フレーム27の両端部から後方に延び、使用者の頭部Uに映像表示部20を保持する。前部フレーム27の両端部のうち、映像表示部20の装着時に頭部Uの右側に位置する端部を端部ERとし、左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、映像表示部20の装着状態において使用者の右側頭部に対応する位置まで延伸して設けられる。左保持部23は、端部ELから、映像表示部20の装着状態において使用者の左側頭部に対応する位置まで延伸して設けられる。
右導光板26及び左導光板28は、前部フレーム27に設けられる。右導光板26は、映像表示部20の装着状態において使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、映像表示部20の装着状態において使用者の左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有し、この連結位置は、使用者が映像表示部20を装着する装着状態で、使用者の眉間に対応する。
前部フレーム27は、右導光板26と左導光板28との連結位置において、映像表示部20の装着状態で使用者の鼻に当接する鼻当て部を設けてもよい。この場合には、鼻当て部と右保持部21及び左保持部23とにより映像表示部20を使用者の頭部に保持できる。また、右保持部21及び左保持部23に、映像表示部20の装着状態において使用者の後頭部に接するベルトを連結してもよい。この場合には、ベルトによって映像表示部20を使用者の頭部Uに保持できる。
右表示部22及び左表示部24の各々は、光学ユニット及び周辺回路をユニット化したモジュールである。
右表示部22は、右導光板26による画像の表示に係るユニットであり、右保持部21に設けられ、装着状態において使用者の右側頭部の近傍に位置する。左表示部24は、左導光板28による画像の表示に係るユニットであり、左保持部23に設けられ、装着状態において使用者の左側頭部の近傍に位置する。なお、右表示部22及び左表示部24を総称して単に「表示駆動部」と呼ぶこともできる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部であり、右表示部22及び左表示部24が出力する画像光を、使用者の眼に導く。右導光板26及び左導光板28は、例えばプリズムである。
使用者の右眼には、右導光板26により導かれた画像光と、右導光板26を透過した外光とが入射する。同様に、左眼には、左導光板28により導かれた画像光と、左導光板28を透過した外光とが入射する。
映像表示部20の前部フレーム27には、照度センサー65が配置される。照度センサー65は、映像表示部20を装着する使用者の前方からの外光を受光する。
カメラ61は、映像表示部20の前部フレーム27に配設される。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図1の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
カメラ61は、「撮像部」の一例に対応する。
カメラ61は、CCD(Charge Coupled Device)やCMOS(Complementary Metal−Oxide−Semiconductor)等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。本実施形態のカメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。
前部フレーム27には、LED(Light Emitting Diode)インジケーター67が配置される。LEDインジケーター67は、端部ERにおいてカメラ61の近傍に配置され、カメラ61の動作中に点灯して、撮像中であることを報知する。
前部フレーム27には、距離センサー64及び赤外線センサー66が設けられる。距離センサー64は、予め設定された測定方向に位置する測定対象物までの距離を検出する。距離センサー64は、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する光反射式距離センサーであってもよい。また、距離センサー64は、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える超音波式の距離センサーであってもよい。また、距離センサー64は、レーザーレンジスキャナーを用いてもよく、この場合には、映像表示部20の前方を含む広範囲の領域に対し測域を行える。
赤外線センサー66は、赤外線を検出する。具体的には、赤外線センサー66は、スマートフォン300の赤外線通信部から出射された赤外線を検出する。また、赤外線センサー66が赤外線通信部の一部として構成されてもよい。この場合には、スマートフォン300の赤外線通信部との通信が可能である。赤外線通信部は、例えば、IrDA規格に則って通信を行う。
赤外線センサー66は、「赤外線受光部」の一例に対応する。
映像表示部20の右表示部22及び左表示部24の各々は、接続装置10に接続される。HMD100では、左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が映像表示部20内部に敷設され、右表示部22及び左表示部24の各々が接続装置10に接続される。
接続ケーブル40は、オーディオコネクター36を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター36に接続される。右イヤホン32は、使用者の右耳に装着され、左イヤホン34は、使用者の左耳に装着される。右イヤホン32及び左イヤホン34は、音声出力部ということもできる。
右イヤホン32及び左イヤホン34は、接続装置10が出力する音声信号に基づき音声を出力する。
マイク63は、音声を集音して、音声信号を接続装置10に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
接続装置10は、使用者により操作される被操作部として、輝度調整キー13、輝度調整キー14、音量調整キー15及び音量調整キー16を備える。輝度調整キー13、輝度調整キー14、音量調整キー15及び音量調整キー16の各々は、ハードウェアキーで構成される。これらの被操作部は接続装置10の本体の表面に配置され、例えば、使用者の手指により操作される。
輝度調整キー13、14は映像表示部20により表示する映像の表示輝度を調整するためのハードウェアキーである。輝度調整キー13は輝度の増大を指示し、輝度調整キー14は輝度の低減を指示する。音量調整キー15、16は、右イヤホン32及び左イヤホン34から出力される音声の音量を調整するためのハードウェアキーである。音量調整キー15は音量の増大を指示し、音量調整キー16は音量の低減を指示する。
[1−2.HMDの画像表示部の光学系の構成]
図2は、映像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のため使用者の左眼LE及び右眼REを図示する。
図2に示すように、右表示部22と左表示部24とは、左右対称に構成される。使用者の右眼REに画像を視認させる構成として、右表示部22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。また、OLEDユニット221が発する画像光Lを導くレンズ群等を備えた右光学系251を備える。画像光Lは、右光学系251により右導光板26に導かれる。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される、自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。OLED駆動回路225は、第1制御部120の制御に従って、OLEDパネル223が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル223の発光素子を発光させる。第1制御部120については、後述にて図4を参照して説明する。
OLED駆動回路225は、OLEDパネル223の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板(図示略)に実装されてもよい。この基板には図4に示す温度センサー217が実装される。
なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加え、W(白)の光を発する発光素子を備えるWRGB構成のOLEDパネル223を用いてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射して右眼REに向けて右導光板26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
また、使用者の左眼LEに画像を視認させる構成として、左表示部24は、画像光を発するOLEDユニット241と、OLEDユニット241が発する画像光Lを導くレンズ群等を備えた左光学系252とを備える。画像光Lは、左光学系252により左導光板28に導かれる。
OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245とを有する。OLEDパネル243は、OLEDパネル223と同様に構成される自発光型の表示パネルである。OLED駆動回路245は、第1制御部120の指示に従って、OLEDパネル243が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル243の発光素子を発光させる。
OLED駆動回路245は、OLEDパネル243の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路245は、例えばOLEDパネル243を駆動する半導体デバイスで構成され、OLEDパネル243の裏面に固定される基板(図示略)に実装されてもよい。この基板には、図4に示す温度センサー239が実装される。
左光学系252は、OLEDパネル243から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、左導光板28に入射する。左導光板28は、画像光Lを反射する複数の反射面が形成された光学素子であり、例えばプリズムである。画像光Lは、左導光板28の内部で複数回の反射を経て左眼LE側に導かれる。左導光板28には、左眼LEの眼前に位置するハーフミラー281(反射面)が形成される。画像光Lは、ハーフミラー281で反射して左眼LEに向けて左導光板28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
この構成によれば、HMD100は、透過型の表示装置として機能する。すなわち、使用者の右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。また、左眼LEには、ハーフミラー281で反射した画像光Lと、ハーフミラー281を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させ、使用者にとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。
ハーフミラー261、281は、右表示部22及び左表示部24がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
なお、左光学系252と左導光板28とを総称して「左導光部」とも呼び、右光学系251と右導光板26とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
図3は、映像表示部20の要部の構成を示す図である。図3は、映像表示部20を使用者の頭部側から見た要部斜視図である。なお、図3では接続ケーブル40の図示を省略する。
図3は、映像表示部20の使用者の頭部に接する側、言い換えれば使用者の右眼RE及び左眼LEに見える側である。別の言い方をすれば、図3では、右導光板26及び左導光板28の裏側が見えている。
図3では、使用者の右眼REに画像光を照射するハーフミラー261及び左眼LEに画像光を照射するハーフミラー281が、略四角形の領域として見える。また、ハーフミラー261を含む右導光板26の全体、及びハーフミラー281を含む左導光板28の全体が、上述したように外光を透過する。このため、使用者には、右導光板26及び左導光板28の全体を透過して外景が視認され、ハーフミラー261、281の位置に矩形の表示画像が視認される。
また、映像表示部20の使用者側には内側カメラ68が配置される。内側カメラ68は、使用者の右眼RE及び左眼LEの各々に対応するように、右導光板26と左導光板28との中央位置に一対、設けられる。内側カメラ68は、使用者の右眼REと左眼LEとをそれぞれ撮像する一対のカメラである。内側カメラ68は、第1制御部120の指示に従って撮像を行う。第1制御部120は、内側カメラ68の撮像画像データを解析する。例えば、第1制御部120は、内側カメラ68の撮像画像データから右眼RE及び左眼LEの眼球表面における反射光や瞳孔の画像を検出し、使用者の視線方向を特定する。また、第1制御部120は、使用者の視線方向の変化を求めることができ、右眼RE及び左眼LEのそれぞれの眼球運動を検出してもよい。
ここで、使用者の視線の移動は、使用者の仮想視点の移動とみることもできる。
また、第1制御部120は、内側カメラ68の撮像画像から右眼RE及び左眼LEの視線方向を検出した場合に、右眼RE及び左眼LEの輻輳角を求めることができる。輻輳角は、使用者が注視する対象物までの距離に対応する。すなわち、使用者が立体的に画像や物体を視認する場合、視認する対象までの距離に対応して、右眼RE及び左眼LEの輻輳角が定まる。したがって、輻輳角を検出することで、使用者が注視する距離を求めることができる。また、使用者の輻輳角を誘導するように画像を表示することにより、立体視を誘導できる。
[1−3.HMDの各部の構成]
図4は、HMD100を構成する各部の構成を示す図である。
映像表示部20の右表示部22は、右表示部基板210を有する。右表示部基板210には、接続ケーブル40に接続される右I/F部211、右I/F部211を介して接続装置10から入力されるデータを受信する受信部213及びEEPROM(Electrically Erasable Programmable Read Only Memory)215が実装される。右I/F部211は、受信部213、EEPROM215、温度センサー217、カメラ61、距離センサー64、照度センサー65、赤外線センサー66、LEDインジケーター67及び内側カメラ68を、接続装置10に接続する。受信部213は、OLEDユニット221を接続装置10に接続する。
左表示部24は、左表示部基板230を有する。左表示部基板230には、接続ケーブル40に接続される左I/F部231及び左I/F部231を介して接続装置10から入力されるデータを受信する受信部233が実装される。また、左表示部基板230には、6軸センサー235及び磁気センサー237が実装される。
左I/F部231は、受信部233、6軸センサー235、磁気センサー237及び温度センサー239を、接続装置10に接続する。受信部233は、OLEDユニット241を接続装置10に接続する。
I/Fは、インターフェイスの略記である。なお、本実施形態においては、受信部213及び受信部233の各々を、Rx213、Rx233と記載する場合がある。
EEPROM215は、各種のデータを不揮発的に記憶する。EEPROM215は、例えば、映像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示部22又は左表示部24が備えるセンサーの特性に関するデータ等を記憶する。
具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれる。EEPROM215が記憶するデータは、第1制御部120により読取り可能である。
カメラ61は、右I/F部211を介して入力される信号に従って撮像を実行し、撮像画像データを、右I/F部211に出力する。
照度センサー65は、外光を受光し、受光量又は受光強度に対応する検出値を出力する。LEDインジケーター67は、右I/F部211を介して入力される制御信号又は駆動電流に従って点灯する。
内側カメラ68は、右I/F部211を介して入力される信号に従って撮像を実行し、撮像画像データを、右I/F部211に出力する。
温度センサー217は、OLEDユニット221の温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。
距離センサー64は、距離検出を実行し、検出結果を示す信号を、右I/F部211を介して接続装置10に出力する。距離センサー64は、例えば、赤外線式深度センサー、超音波式距離センサー、Time Of Flight式距離センサー、画像検出と音声検出とを組み合わせた距離検出ユニット等を用いることができる。また、距離センサー64が、ステレオカメラや単眼カメラによるステレオ撮影で得られる画像を処理して距離を検出する構成であってもよい。
赤外線センサー66は、赤外線検出を実行し、検出結果を示す信号を右I/F部211を介して接続装置10に出力する。
受信部213は、右I/F部211を介して接続装置10から伝送される表示用の映像データを受信し、OLEDユニット221に出力する。OLEDユニット221は、接続装置10が伝送する映像データに基づく映像を表示する。
また、受信部233は、左I/F部231を介して接続装置10から伝送される表示用の映像データを受信し、OLEDユニット241に出力する。OLEDユニット221、241は、接続装置10が伝送する映像データに基づく映像を表示する。
6軸センサー235は、3軸加速度センサー、及び、3軸ジャイロセンサーを備えるモーションセンサーである。6軸センサー235は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。ジャイロセンサーは、角速度センサーとも呼ばれる。
温度センサー239は、OLEDユニット241の温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値として出力する。
映像表示部20の各部は、接続ケーブル40により接続装置10から供給される電力により動作する。
映像表示部20は、右表示部22に電源部229を備え、左表示部24に電源部249を備える。電源部229は、接続装置10が接続ケーブル40を介して供給する電力を、右表示部基板210を含む右表示部22の各部に分配し、供給する。同様に、電源部249は、接続装置10が接続ケーブル40を介して供給する電力を、左表示部基板230を含む左表示部24の各部に分配し、供給する。右表示部22及び左表示部24は、電圧を変換する変換回路等を備えてもよい。
接続装置10は、I/F部110、第1制御部120、センサー制御部122、表示制御部124、電源制御部126、不揮発性記憶部130、操作部140、接続部145及び音声処理部147を備える。
I/F部110は、コネクター11Dを備える。また、I/F部110は、コネクター11Dに接続されて、各種通信規格に準拠した通信プロトコルを実行するインターフェイス回路を備える。
I/F部110は、例えば、コネクター11D及びインターフェイス回路を実装したインターフェイス基板であってもよい。また、接続装置10の第1制御部120やセンサー制御部122、表示制御部124、電源制御部126が、図示しない接続装置メイン基板に実装される構成としてもよい。この場合には、接続装置メイン基板にI/F部110のコネクター11D及びインターフェイス回路を実装してもよい。
また、I/F部110は、例えば、外部の記憶装置や記憶媒体を接続可能なメモリーカード用インターフェイス等を備えてもよいし、I/F部110を無線通信インターフェイスで構成してもよい。
第1制御部120は、接続装置10の各部を制御する。第1制御部120は、CPU(Central Processing Unit)のようなプロセッサーを有する。第1制御部120において、プロセッサーが制御プログラムを実行することによって、ソフトウェアとハードウェアとの協働によりHMD100の各部を制御する。第1制御部120には、不揮発性記憶部130、操作部140、接続部145及び音声処理部147が接続される。
センサー制御部122は、カメラ61、距離センサー64、照度センサー65、赤外線センサー66、温度センサー217、6軸センサー235、磁気センサー237及び温度センサー239を制御する。具体的には、センサー制御部122は、第1制御部120の制御に従って各センサーのサンプリング周期の設定及び初期化を行い、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。
センサー制御部122は、I/F部110のコネクター11Dに接続され、予め設定されたタイミングで、各センサーから取得した検出値に関するデータをコネクター11Dに出力する。コネクター11Dに接続されたスマートフォン300は、HMD100の各センサーの検出値、カメラ61の撮像画像データ、及び内側カメラ68によって検出された視線方向を示すデータを取得できる。
表示制御部124は、I/F部110に入力される画像データや映像データに基づく画像を映像表示部20により表示するための各種処理を実行する。本実施形態では、コネクター11Dに、スマートフォン300が出力する映像信号が入力される。映像信号は、デジタル映像データであるが、アナログ映像信号であってもよい。
表示制御部124は、例えば、フレームの切り出し、解像度変換、中間フレーム生成、フレームレート変換等の各種処理を実行する。解像度変換は、いわゆるスケーリングを含む。表示制御部124は、OLEDユニット221及びOLEDユニット241の各々に対応する画像データを接続部145に出力する。接続部145に入力された画像データは、コネクター11Aから、映像信号201として右I/F部211及び左I/F部231に伝送される。映像信号201は、OLEDユニット221及びOLEDユニット241の各々に対応して処理されたデジタル映像データである。
本実施形態では、コネクター11DがUSB−TypeCコネクターで構成される。表示制御部124は、コネクター11Dを介して、USB−TypeCの代替モードで伝送される映像データを受信する。
センサー制御部122及び/又は表示制御部124は、プロセッサーがプログラムを実行することにより、ソフトウェアとハードウェアとの協働により実現されてもよい。すなわち、センサー制御部122及び表示制御部124は、プロセッサーにより構成され、プログラムを実行することで上記の動作を実行する。この例で、センサー制御部122及び表示制御部124は、第1制御部120を構成するプロセッサーがプログラムを実行することで実現されてもよい。言い換えれば、プロセッサーがプログラムを実行することで、第1制御部120、表示制御部124及びセンサー制御部122として機能してもよい。ここで、プロセッサーは、コンピューターと言い換えることができる。
また、表示制御部124及びセンサー制御部122は、DSP(Digital Signal Processor)やFPGA(Field Programmable Gate Array)等、プログラムされたハードウェアにより構成されてもよい。また、センサー制御部122及び表示制御部124を統合して、SoC(System−on−a−Chip)−FPGAとして構成してもよい。
電源制御部126は、コネクター11Dに接続される。電源制御部126は、コネクター11Dから供給される電力に基づき、接続装置10の各部および映像表示部20に対する電源供給を行う。また、電源制御部126は、図示しない電圧変換回路を備え、電圧を変換して接続装置10及び映像表示部20の各部に供給する構成であってもよい。電源制御部126は、ロジック回路やFPGA等のプログラムされた半導体デバイスで構成されてもよい。また、電源制御部126をセンサー制御部122及び/又は表示制御部124と共通のハードウェアで構成してもよい。
センサー制御部122、表示制御部124及び電源制御部126は、データ処理を行うためのワークメモリーを具備してもよく、第1制御部120のメモリーを利用して処理を行ってもよい。
操作部140は、接続装置10が備える被操作部に対する操作を検出し、操作内容を示すデータ、又は、操作された被操作部を示す操作信号を第1制御部120に出力する。
音声処理部147は、第1制御部120から入力される音声データに従って、音声信号を生成し、接続部145に出力する。この音声信号は接続部145からオーディオコネクター36を介して右イヤホン32及び左イヤホン34に出力される。また、音声処理部147は、第1制御部120の制御に従って、音声信号のボリュームを調整する。また、音声処理部147は、マイク63が集音した音声の音声データを生成し、第1制御部120に出力する。この音声データは、第1制御部120により、映像表示部20が備えるセンサーの検出値と同様に処理されてもよい。
また、接続装置10は図示しないバッテリーを備え、このバッテリーから接続装置10及び映像表示部20の各部に電力を供給する構成であってもよい。接続装置10が備えるバッテリーは、充電可能な二次電池であってもよい。
[1−4.スマートフォンの構成]
図5は、HMD100の第1制御部120とスマートフォン300との構成を示す図である。
スマートフォン300は、第2制御部310、不揮発性記憶部320、表示部330、I/F部341、通信部345、6軸センサー351、磁気センサー352及び赤外線通信部353を備える。
第2制御部310は、CPUやマイコン等のプロセッサーを備え、このプロセッサーにより制御プログラムを実行することにより、スマートフォン300の各部を制御する。第2制御部310は、プロセッサーが実行する制御プログラムを不揮発的に記憶するROM(Read Only Memory)、及び、プロセッサーのワークエリアを構成するRAM(Random Access Memory)のようなメモリーを備えてもよい。プロセッサーは、「コンピューター」の一例に対応する。第2制御部310のメモリーに記憶された制御プログラムは、「制御プログラム」の一例に対応する。
不揮発性記憶部320は、第2制御部310により実行される制御プログラムや、第2制御部310が処理するデータを不揮発的に記憶する。不揮発性記憶部130は、例えば、HDD(Hard Disk Drive)等の磁気的記録装置、又は、フラッシュメモリー等の半導体記憶素子を用いた記憶装置である。
不揮発性記憶部320は、例えば、映像を含むコンテンツのコンテンツデータ321を記憶する。コンテンツデータ321は、第2制御部310により処理可能なフォーマットのファイルであり、映像データを含み、音声データを含んでもよい。
また、不揮発性記憶部320は、第2制御部310が実行する基本制御プログラムとしてのオペレーティングシステム(OS:Operating System)、OSをプラットフォームとして動作するアプリケーションプログラム等を記憶する。また、不揮発性記憶部320は、アプリケーションプログラムの実行時に処理されるデータや処理結果のデータを記憶する。
表示部330が備える表示パネル331及びタッチセンサー332は、第2制御部310に接続される。表示パネル331は、第2制御部310の制御に基づき各種画像を表示する。表示パネル331は、例えばLCD(Liquid Crystal Display)で構成される。表示パネル331は、矩形状に構成される。本実施形態では、表示パネル331は、長方形状である。
表示パネル331は、「第2表示部」の一例に対応する。
タッチセンサー332は、タッチ操作を検出し、検出した操作を示すデータを第2制御部310に出力する。タッチ操作は、「位置入力操作」の一例に対応する。
タッチセンサー332は、表示パネル331と一体に形成される。具体的には、タッチセンサー332は、表示パネル331の画像表示面に形成される。本実施形態では、タッチセンサー332は、長方形状である。タッチセンサー332が出力するデータは、タッチセンサー332における操作位置を示す座標データ等である。
タッチセンサー332は、「位置入力部」の一例に対応する。
I/F部341は、外部の装置に接続されるインターフェイスである。I/F部341は、例えば、HDMIインターフェイス、USBインターフェイス等の規格に準拠した通信を実行する。I/F部341は、USBケーブル46を接続するコネクター、及びコネクターを伝送される信号を処理するインターフェイス回路を備える。I/F部341は、コネクター及びインターフェイス回路を有するインターフェイス基板であり、第2制御部310のプロセッサー等が実装されるメイン基板に接続される。或いは、I/F部341を構成するコネクター及びインターフェイス回路が、スマートフォン300のメイン基板に実装される。
本実施形態で、I/F部341は、USBインターフェイスを備え、USBケーブル46により、コネクター11Dに接続される。第2制御部310は、例えば、USBケーブル46により映像データを出力し、接続装置10からセンサーの出力値に関するデータ等を受信する。
また、I/F部341は、無線通信インターフェイスであってもよい。この場合には、I/F部341は、RF(Radio Frequency)部を含む通信回路を実装したインターフェイス基板、又は、メイン基板に実装される回路とすることができる。
通信部345は、外部の装置とデータ通信を実行する通信インターフェイスである。通信部345は、ケーブルを接続可能な有線通信インターフェイスであってもよいし、無線通信インターフェイスであってもよい。例えば、Ethernet(登録商標)に対応する有線LANインターフェイスや、IEEE802.11規格に対応する無線LANインターフェイスであってもよい。
また、通信部345は、例えば、他のスマートフォンと無線電話回線で接続する通信インターフェイスである。
6軸センサー351は、3軸加速度センサー、及び、3軸ジャイロセンサーを備えるモーションセンサーである。6軸センサー351は、上記のセンサーがモジュール化されたIMUを採用してもよい。磁気センサー352は、例えば、3軸の地磁気センサーである。ジャイロセンサーは、角速度センサーとも呼ばれる。
赤外線通信部353は、他のスマートフォンとの間で赤外線通信を実行する。また、赤外線通信部353は、表示パネル331の表示面の法線方向に赤外線を出射する。赤外線通信部353から出射された赤外線がHMD100の赤外線センサー66によって受光された場合には、表示パネル331はHMD100に対向している。この点については、後述にて図7を参照して詳細に説明する。
赤外線通信部353は、「赤外線出射部」の一例に対応する。
第2制御部310は、第2表示制御部311と、伝送部312と、第1判定部313と、検出部314と、第2判定部315と、調整部316とを備える。具体的には、第2制御部310は、第2制御部310が備えるプロセッサーが制御プログラムを実行することにより、第2表示制御部311、伝送部312、第1判定部313、検出部314、第2判定部315及び調整部316として機能する。
第2表示制御部311は、コンテンツデータ321を再生し、コンテンツデータ321に含まれる映像データに対応する第2画像PT2を表示部330の表示パネル331に表示する。
伝送部312は、第2画像PT2を示すデータをHMD100に伝送する。具体的には、伝送部312は、I/F部341及びコネクター11Dを介して、第2画像PT2を示すデータをHMD100の第1制御部120に伝送する。
第1判定部313は、表示パネル331がHMD100に対向しているか否かを判定する。具体的には、第1判定部313は、下記の第1条件、第2条件及び第3条件を満たす場合に、表示パネル331がHMD100に対向していると判定する。
第1条件:使用者の視野内に表示パネル331が位置する。
第2条件:表示パネル331の表示面の法線方向にHMD100が位置している。
第3条件:表示パネル331とHMD100との間の距離が閾値距離以下である。
具体的には、第1判定部313は、第1条件を満たすか否かを、カメラ61により形成された外景の画像と、内側カメラ68により形成された画像に基づいて第1制御部120により検出された視線方向とに基づいて判定する。
第1判定部313は、第2条件を満たすか否かを、カメラ61により形成された外景の画像と、内側カメラ68により形成された画像に基づいて判定する。また、第1判定部313は、第2条件を満たすか否かを、HMD100の第1制御部120から伝送される赤外線センサー66の検出結果に基づいて判定する。
第1条件及び第2条件については、後述にて図6及び図7を参照して詳細に説明する。
また、第1判定部313は、第3条件を満たすか否かを、距離センサー64によって検出された表示パネル331とHMD100との間の距離に基づいて判定する。
第3条件については、後述にて図6を参照して詳細に説明する。
検出部314は、HMD100に対する表示パネル331の位置を検出する。具体的には、検出部314は、カメラ61が撮像した外景画像に基づいて、HMD100に対する表示パネル331の位置を検出する。
第2判定部315は、HMD100に対するスマートフォン300の表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれるか否かを判定する。具体的には、第2判定部315は、検出部314が検出したHMD100に対する表示パネル331の位置が、映像表示部20により視認される第1画像PT1に含まれるか否かを判定する。
更に具体的には、第2判定部315は、カメラ61によって撮影された画像に基づいて、HMD100に対するスマートフォン300の表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれるか否かを判定する。カメラ61は、使用者の視野よりも広い範囲の外景画像を撮像する。
第2判定部315は、まず、HMD100からカメラ61が撮像した外景画像データを取得し、カメラ61が撮像した外景画像の中から、第1画像PT1に含まれる外景画像を抽出する。
そして、第2判定部315は、抽出された外景画像にスマートフォン300の表示パネル331が含まれているか否かを判定する。なお、抽出された外景画像にスマートフォン300の表示パネル331が含まれているか否かの判定は、例えば、画像処理等を用いて実行される。
調整部316は、第1判定部313の判定結果と第2判定部315の判定結果とに基づいて、HMD100の映像表示部20における第1画像PT1の表示を調整する。すなわち、調整部316は、HMD100の第1制御部120に対して、映像表示部20における第1画像PT1の表示を調整するよう指示する。第1制御部120は、調整部316からの指示に従って、映像表示部20における第1画像PT1の表示を調整する。
具体的には、次の第4条件と第5条件とを満たす場合に、調整部316は、映像表示部20における第1画像PT1の表示を調整する。
第4条件:表示パネル331がHMD100に対向していると第1判定部313が判定したこと。
第5条件:HMD100に対するスマートフォン300の表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれると第2判定部315が判定したこと。
調整部316は、例えば、表示パネル331の位置が第1画像PT1に含まれないように、HMD100の映像表示部20における第1画像PT1の表示を調整する。
具体的には、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、第1画像PT1の一部の画像を非表示にする。また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1の表示位置を移動する。また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1を縮小して表示する。
調整部316の処理については、後述にて図8〜図10を参照して詳細に説明する。
第2制御部310の処理については、後述にて図11を参照して具体的に説明する。
[1−5.HMDの第1制御部の構成]
HMD100の第1制御部120は、第1表示制御部121と、視線検出部123と、赤外線検出部125と、を備える。具体的には、第1制御部120は、第1制御部120が備えるプロセッサーが制御プログラムを実行することにより、第1表示制御部121、視線検出部123及び赤外線検出部125として機能する。
第1表示制御部121は、第1画像PT1を表示する。具体的には、第1表示制御部121は、スマートフォン300から第2画像PT2を受信し、受信した第2画像PT2を映像表示部20により第1画像PT1として表示させる。すなわち、第1画像PT1は、第2画像PT2と一致する。換言すれば、第1画像PT1は、第2画像PT2と同一の画像を示す。この場合には、HMD100の映像表示部20は、表示パネル331に表示している画像と同じ画像を表示し、いわゆる「ミラーリング表示」を行う。
更に具体的には、第1表示制御部121は、スマートフォン300から受信した第2画像PT2から、右画像と左画像とを生成する。そして、第1表示制御部121は、右画像を右表示部22により表示させ、左画像を左表示部24により表示させる。
更に具体的には、第1表示制御部121は、右画像を右I/F部211を介してOLEDユニット221に伝送し、OLEDユニット221により右画像を表示させる。また、第1表示制御部121は、左画像を左I/F部231を介してOLEDユニット241に伝送し、OLEDユニット241により左画像を表示させる。
また、第1表示制御部121は、スマートフォン300の第2制御部310の調整部316からの指示に従って、映像表示部20における第1画像PT1の表示を調整する。
視線検出部123は、使用者の視線の方向を検出する。具体的には、視線検出部123は、内側カメラ68の撮像画像データを解析することによって、使用者の視線の方向を検出する。例えば、視線検出部123は、内側カメラ68の撮像画像データから右眼RE及び左眼LEの眼球表面における反射光や瞳孔の画像を検出し、使用者の視線方向を検出する。
視線検出部123は、使用者の視線方向を示すデータを第2制御部310に伝送する。
赤外線検出部125は、赤外線センサー66の検出結果を取得し、検出結果を示すデータを、コネクター11D及びI/F部341を介して、第2制御部310に伝送する。
[2.具体例を用いたスマートフォンの第1制御部の処理の説明]
図6〜図10の各々は、第2制御部310の処理の具体例を示す図である。
[2−1.第1判定部の処理の説明]
図6は、表示パネル331がHMD100と対向している状態の一例を示す図である。
図6に示すように、使用者がスマートフォン300を操作する場合には、通常、使用者の視線の方向LSにスマートフォン300が配置される。方向LSは、使用者の視線の方向を示す。方向LSは、内側カメラ68によって撮影された画像に基づいて、視線検出部123によって検出される。
方向DAは、HMD100からスマートフォン300のタッチセンサー332の中心位置PCに向かう方向を示す。方向DAは、カメラ61によって撮像された外景画像に基づいて、第1判定部313によって検出される。
方向DAは、方向LSに対して傾斜角θだけ傾斜している。傾斜角θは方向LSに対する方向DAの傾斜角を示す。
第1判定部313は、傾斜角θの絶対値が閾値角θS以下である場合に、使用者の視野内に表示パネル331が位置すると判定する。すなわち、第1判定部313は、傾斜角θが閾値角θS以下である場合に、第1条件を満たすと判定する。閾値角θSは、例えば、70度である。
A−A線は、タッチセンサー332の長辺方向を示す。B−B線は、タッチセンサー332の短辺方向を示す。
A−A線は、方向DAに対して傾斜角φだけ傾斜している。傾斜角φは、A−A線の方向DAに対する傾斜角を示す。また、B−B線は、方向DAに対して傾斜角ψだけ傾斜している。傾斜角ψは、B−B線の方向DAに対する傾斜角を示す。傾斜角φ及び傾斜角ψは、カメラ61によって撮像された外景画像に基づいて、第1判定部313によって検出される。
使用者がタッチセンサー332を操作する場合には、方向LSは、方向DAと一致すると推定される。すなわち、傾斜角φ及び傾斜角ψは、使用者がタッチセンサー332を操作する場合において、使用者又はHMD100に対する表示パネル331の表示面の傾きを規定する。
また、例えば、傾斜角φ及び傾斜角ψの各々が90度である場合には、表示パネル331の表示面は、方向DAと直交する。
そこで、傾斜角φが最小傾斜角φN以上で、最大傾斜角φX以下であり、且つ、傾斜角ψが最小傾斜角ψN以上で、最大傾斜角ψX以下である場合には、第1判定部313は、表示パネル331の表示面の法線方向にHMD100が位置していると判定する。すなわち、第1判定部313は、第2条件を満たすと判定する。最小傾斜角φN及び最小傾斜角ψNの各々は、例えば60度であり、最大傾斜角φX及び最大傾斜角ψXの各々は、例えば120度である。
このようにして、第1判定部313は、カメラ61によって撮像された外景画像、及び内側カメラ68によって撮影された画像に基づいて、第1条件を満たすか否かと、第2条件を満たすか否かと、を判定できる。したがって、第1判定部313は、カメラ61によって撮像された外景画像、及び内側カメラ68によって撮影された画像に基づいて、第1条件を満たすか否かを判定できる。
距離LAは、表示パネル331とHMD100との間の距離を示す。距離LAは、距離センサー64によって検出される。第1判定部313は、距離LAが閾値距離LS以下である場合に、第3条件を満たすと判定する。閾値距離LSは、例えば0.8mである。
このようにして、第1判定部313は、距離センサー64の検出結果に基づいて、第2条件を満たすか否かを判定できる。
図7は、表示パネル331がHMD100と対向している状態の他の一例を示す図である。
図7に示すように、赤外線通信部353から中心線CLで示す方向に赤外線が出射される。中心線CLは、ベクトルVNと平行である。ベクトルVNは、表示パネル331の表示面の法線ベクトルを示す。すなわち、中心線CLは、表示パネル331の表示面を含む平面と直交する。
中心線CLに対して傾斜角ηA以下の範囲は、赤外線通信部353から出射される赤外線の到達する範囲を示す。換言すれば、傾斜角ηAは、赤外線通信部353から出射される赤外線の拡がり角を示す。
直線LBは、赤外線センサー66と赤外線通信部353とを結ぶ直線を示す。傾斜角ηBは、直線LBの中心線CLに対する傾斜角を示す。図7に示すように、傾斜角ηBは、傾斜角ηAよりも小さい。したがって、赤外線センサー66は、赤外線通信部353から射出された赤外線を受光する。
赤外線センサー66が赤外線通信部353から射出された赤外線を受光する場合に、第1判定部313は、表示パネル331の表示面の法線方向にHMD100が位置していると判定する。すなわち、第1判定部313は、第2条件を満たすと判定する。
このようにして、第1判定部313は、赤外線センサー66の検出結果に基づいて、第2条件を満たすか否かを判定できる。
[2−2.調整部の処理の説明]
図8は、表示パネル331の位置が第1画像PT1に含まれる状態の一例を示す画面図である。
図8に示すように、ハーフミラー261及びハーフミラー281の各々には、第1画像PT1が表示される。第1画像PT1は、アイコンA1〜アイコンA5、アイコンB1〜アイコンB5、アイコンC1〜アイコンC5及びボタンP1〜P3を含む。なお、第1画像PT1は背面画像を含まない。すなわち、ハーフミラー261及びハーフミラー281の各々において、アイコンA1〜アイコンA5、アイコンB1〜アイコンB5、アイコンC1〜アイコンC5及びボタンP1〜P3を除く領域では、使用者は外景を視認できる。
また、第1画像PT1は、HMD100に対する表示パネル331の位置を含む。具体的には、ハーフミラー261及びハーフミラー281の各々において、アイコンA4、アイコンA5、アイコンB4及びアイコンB5の位置と、表示パネル331の位置とが一致している。
したがって、表示パネル331の一部は、アイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々に遮られて隠れている。このような場合には、使用者は、表示パネル331に表示された第2画像PT2を見難い可能性があった。
図9は、第1画像PT1の一部の画像を非表示にする状態の一例を示す画面図である。
図9に示すように、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、第1画像PT1の一部の画像を非表示にする。具体的には、調整部316は、アイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々を非表示にする。
このようにして、表示パネル331を遮る位置にあるアイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々を非表示にすることによって、表示パネル331の位置が第1画像PT1に含まれないようにすることができる。したがって、使用者は、表示パネル331に表示される第2画像PT2を容易に視認できる。その結果、使用者のタッチセンサー332に対する操作が容易になる。
図9では、調整部316が第1画像PT1の一部の画像を非表示にする場合について説明したが、調整部316が第1画像PT1の一部の画像の濃度を低減してもよい。具体的には、調整部316が第1画像PT1のうちの表示パネル331の位置に対応する画像の濃度を低減してもよい。更に具体的には、調整部316がアイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々の濃度を低減してもよい。
この場合には、アイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々の濃度が低減されるため、使用者は、表示パネル331に表示される第2画像PT2を視認し易くなる。
また、調整部316が第1画像PT1の一部の画像を半透明化する処理を実行してもよい。具体的には、調整部316が第1画像PT1のうちの表示パネル331の位置に対応する画像を半透明化する処理を実行してもよい。更に具体的には、調整部316がアイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々を半透明化する処理を実行してもよい。
この場合には、アイコンA4、アイコンA5、アイコンB4及びアイコンB5の各々が半透明化されるため、使用者は、表示パネル331に表示される第2画像PT2を視認し易くなる。
図10は、第1画像PT1を縮小して移動する状態の一例を示す画面図である。
図10に示すように、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、第1画像PT1を縮小して移動する。具体的には、調整部316は、第1画像PT1を50%に縮小して、第1画像PT1がハーフミラー261及びハーフミラー281の各々の左辺と接する位置に移動する。
このようにして、第1画像PT1を縮小して移動することによって、表示パネル331の位置が第1画像PT1に含まれないようにすることができる。したがって、使用者は、表示パネル331に表示される第2画像PT2を容易に視認できる。その結果、使用者のタッチセンサー332に対する操作が容易になる。また、この場合には、使用者は、第1画像PT1も容易に視認できるため、使用者のタッチセンサー332に対する操作が更に容易になる。
図10では、調整部316が、第1画像PT1を縮小して移動する場合について説明したが、調整部316が、表示パネル331の位置が第1画像PT1に含まれないように、第1画像PT1を縮小又は移動してもよい。
この場合には、調整部316の処理を簡素化できる。したがって、第2制御部310の負荷を軽減できる。
[3.スマートフォンの第2制御部の処理の説明]
図11は、HMD100の第1制御部120及びスマートフォン300の第2制御部310の処理を示すフローチャートである。
まず、図11に示すように、ステップS101において、第2制御部310が、カメラ61によって撮像された外景画像データを取得する。
次に、ステップS103において、第1制御部120の視線検出部123が、内側カメラ68の撮像画像データを取得する。
次に、ステップS105において、第1制御部120の視線検出部123が、内側カメラ68の撮像画像データに基づいて、使用者の視線の方向を検出する。
次に、ステップS107において、第2制御部310の第1判定部313は、第1条件及び第2条件を満たすか否かを判定する。具体的には、第1判定部313は、使用者の視野内に表示パネル331が位置し、表示パネル331の表示面の法線方向にHMD100が位置する場合に、第1条件及び第2条件を満たすと判定する。
更に具体的には、第1判定部313は、カメラ61により形成された外景の画像と、視線検出部123により検出された視線方向とに基づいて、使用者の視野内に表示パネル331が位置するか否かを判定する。また、第1判定部313は、赤外線センサー66の検出結果に基づいて、表示パネル331がHMD100に対向しているか否かを判定する。
第1条件又は第2条件を満たさないと第1判定部313が判定した場合(ステップS107:NO)には、処理がステップS113に進む。
そして、ステップS113において、第1判定部313は、表示パネル331がHMD100に対向していないと判定する。その後、処理がステップS101にリターンする。
第1条件及び第2条件を満たすと第1判定部313が判定した場合(ステップS107:YES)には、処理がステップS109に進む。
そして、ステップS109において、第1判定部313は、距離センサー64によって表示パネル331とHMD100との間の距離LAを取得する。
次に、ステップS111において、第1判定部313は、距離LAが閾値距離LS以下であるか否かを判定する。
距離LAが閾値距離LS以下ではないと第1判定部313が判定した場合(ステップS111:NO)には、 そして、ステップS113において、第1判定部313は、表示パネル331がHMD100に対向していないと判定する。その後、処理がステップS101にリターンする。
距離LAが閾値距離LS以下であると第1判定部313が判定した場合(ステップS111:YES)には、処理がステップS115に進む。
そして、ステップS115において、第1判定部313は、表示パネル331がHMD100に対向していると判定する。
次に、ステップS117において、検出部314は、HMD100に対するスマートフォン300の表示パネル331の位置を検出する。
次に、ステップS119において、第2判定部315は、HMD100に対するスマートフォン300の表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれるか否かを判定する。
表示パネル331の位置が第1画像PT1に含まれないと第2判定部315が判定した場合(ステップS119:NO)には、処理がステップS101にリターンする。表示パネル331の位置が第1画像PT1に含まれると第2判定部315が判定した場合(ステップS119:YES)には、処理がステップS121に進む。
そして、ステップS121において、調整部316は、映像表示部20における第1画像PT1の表示を調整する。具体的には、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、第1画像PT1の表示を調整する。その後、処理がステップS101にリターンする。
なお、図10のステップS107とステップS111とは、「第1判定ステップ」の一例に対応する。ステップS117は「検出ステップ」の一例に対応する。ステップS119は、「第2判定ステップ」の一例に対応する。ステップS121は、「調整ステップ」の一例に対応する。
[4.本実施形態の効果]
以上説明したように、本実施形態では、HMD100は、外景を視認可能に構成され、前記外景に重ねて第1画像PT1を表示する映像表示部20と、第1画像PT1を映像表示部20に表示させる第1表示制御部121と、を備える。スマートフォン300は、第2画像PT2を表示する表示パネル331と、表示パネル331に配置され、位置入力操作を受け付けて、操作位置の座標を検出するタッチセンサー332と、表示パネル331がHMD100に対向しているか否かを判定する第1判定部313と、HMD100に対する表示パネル331の位置を検出する検出部314と、HMD100に対する表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれるか否かを判定する第2判定部315と、第1判定部313の判定結果と第2判定部315の判定結果とに基づいて、映像表示部20における第1画像PT1の表示を調整する調整部316と、を備える。
よって、例えば、表示パネル331がHMD100に対向していると第1判定部313が判定し、HMD100に対する表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれると第2判定部315が判定した場合に、調整部316は、映像表示部20における第1画像PT1の表示を調整する。したがって、映像表示部20における第1画像PT1の表示を調整することによって、表示パネル331に表示される第2画像PT2の視認性を向上できる。その結果、使用者によるタッチセンサー332の操作性を向上できる。
また、HMD100は、外景を撮像するカメラ61を備え、第1判定部313は、カメラ61が撮像した画像に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定する。
したがって、第1判定部313は、スマートフォン300の表示パネル331がHMD100に対向しているか否かを正確に判定できる。
また、HMD100は、使用者の視線の方向を検出する視線検出部123を備え、第1判定部313は、視線検出部123の検出結果に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定する。
したがって、第1判定部313は、スマートフォン300の表示パネル331がHMD100に対向しているか否かを正確に判定できる。
また、スマートフォン300は、赤外線を出射する赤外線通信部353を備え、HMD100は、赤外線を受光する赤外線センサー66を備え、第1判定部313は、赤外線センサー66の検出結果に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定する。
したがって、第1判定部313は、スマートフォン300の表示パネル331がHMD100に対向しているか否かを正確に判定できる。
また、赤外線通信部353は、表示パネル331の表示面の法線方向に赤外線を出射する。
したがって、第1判定部313は、スマートフォン300の表示パネル331がHMD100に対向しているか否かを正確に判定できる。
また、HMD100は、距離を検出する距離センサー64を備え、第1判定部313は、距離センサー64によって検出されたHMD100と表示パネル331との間の距離LAに基づいて、表示パネル331がHMD100に対向しているか否かを判定する。
距離LAが閾値距離LSより大である場合には、第1判定部313は、表示パネル331がHMD100に対向していないと判定する。したがって、閾値距離LSの値を適正に設定することによって、表示パネル331がHMD100に対向しているか否かを的確に判定できる。
また、表示パネル331がHMD100に対向していると第1判定部313が判定し、HMD100に対する表示パネル331の位置が映像表示部20により視認される第1画像PT1に含まれると第2判定部315が判定した場合に、調整部316は、映像表示部20における第1画像PT1の表示を調整する。
よって、映像表示部20における第1画像PT1の表示を調整することによって、表示パネル331に表示される第2画像PT2の視認性を向上できる。したがって、使用者によるタッチセンサー332の操作性を向上できる。
また、調整部316は、映像表示部20における第1画像PT1のうちの表示パネル331の位置に対応する画像の濃度を低減する。
よって、表示パネル331に表示される第2画像PT2の視認性を向上できる。したがって、使用者によるタッチセンサー332の操作性を向上できる。
また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1の表示を調整する。
よって、表示パネル331の位置が第1画像PT1に含まれないため、表示パネル331に表示される第2画像PT2の視認性を向上できる。したがって、使用者によるタッチセンサー332の操作性を向上できる。
また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1の少なくとも一部の画像を非表示にする。
調整部316は、例えば、第1画像PT1のうちの表示パネル331の位置に対応する画像を非表示する。したがって、簡素な処理で、表示パネル331に表示される第2画像PT2の視認性を向上できる。
また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1の表示位置を移動する。
したがって、簡素な処理で、表示パネル331に表示される第2画像PT2の視認性を向上できる。
また、調整部316は、表示パネル331の位置が第1画像PT1に含まれないように、映像表示部20における第1画像PT1を縮小して表示する。
したがって、簡素な処理で、表示パネル331に表示される第2画像PT2の視認性を向上できる。
[5.他の実施形態]
本発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記実施形態では、「情報処理装置」がスマートフォン300であるが、これに限定されない。「情報処理装置」は、使用者が携帯可能に構成され、表示部と、位置入力部と、制御部とを備えればよい。例えば、「情報処理装置」がPDA端末でもよいし、タブレット型パーソナルコンピューターでもよい。
また、上記実施形態では、第1判定部313が、カメラ61の撮像した外景画像、内側カメラ68の撮像した画像、及び赤外線センサー66の検出結果に基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定するが、本発明はこれに限定されない。第1判定部313が、カメラ61の撮像した外景画像、内側カメラ68の撮像した画像、及び赤外線センサー66の検出結果の少なくとも1つに基づいて、スマートフォン300の表示パネル331がHMD100に対向しているか否かを判定すればよい。
また、上記実施形態では、第1判定部313が、使用者の視野内に表示パネル331が位置し、表示パネル331の表示面の法線方向にHMD100が位置し、且つ、HMD100と表示パネル331との間の距離LAが閾値距離LS以下である場合に、表示パネル331がHMD100に対向していると判定するが、本発明はこれに限定されない。第1判定部313が、使用者の視野内に表示パネル331が位置し、表示パネル331の表示面の法線方向にHMD100が位置しているか否か、表示パネル331の表示面の法線方向にHMD100が位置しているか否か、及びHMD100と表示パネル331との間の距離LAが閾値距離LS以下であるか否かの少なくとも1つに基づいて、表示パネル331がHMD100に対向しているか否かを判定してもよい。
また、上記実施形態では、接続装置10が映像表示部20と有線接続される構成を例示したが、これに限定されず、接続装置10に対して映像表示部20が無線接続される構成であってもよい。
また、接続装置10が備える一部の機能を映像表示部20に設けてもよく、接続装置10を複数の装置により実現してもよい。例えば、接続装置10に代えて、使用者の身体、着衣、或いは、使用者が身につける装身具に取り付け可能なウェアラブルデバイスを用いてもよい。この場合のウェアラブルデバイスは、例えば、時計型の装置、指輪型の装置、レーザーポインター、マウス、エアーマウス、ゲームコントローラー、ペン型のデバイス等であってもよい。
また、上記実施形態では、映像表示部20と接続装置10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明した。これに限定されず、接続装置10と映像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、上記実施形態において、使用者が表示部を透過して外景を視認する構成は、右導光板26及び左導光板28が外光を透過する構成に限定されない。例えば外景を視認できない状態で画像を表示する表示装置にも適用可能である。具体的には、カメラ61の撮像画像、この撮像画像に基づき生成される画像やCG、予め記憶された映像データや外部から入力される映像データに基づく映像等を表示する表示装置に、適用できる。この種の表示装置としては、外景を視認できない、いわゆるクローズ型の表示装置を含むことができる。例えば、カメラ61により撮像する外景の画像と、表示画像とを合成した合成画像を映像表示部20により表示する構成とすれば、映像表示部20が外光を透過しなくても、使用者に外景と画像とを視認可能に表示できる。このような、いわゆるビデオシースルー型の表示装置に適用することも勿論可能である。
また、例えば、映像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼LEに対応して画像を表示する表示部と、使用者の右眼REに対応して画像を表示する表示部とを備えていればよい。また、表示装置は、例えば、自動車や飛行機等の車両に搭載されるHMDとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたHMDとして構成されてもよい。この場合には、使用者の身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
また、画像光を使用者の眼に導く光学系として、右導光板26及び左導光板28の一部に、ハーフミラー261、281により虚像が形成される構成を例示した。これに限定されず、右導光板26及び左導光板28の全面又は大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合には、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
更に、光学素子は、ハーフミラー261、281を有する右導光板26、左導光板28に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図4、図5等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。
また、第2制御部310が実行する制御プログラムは、不揮発性記憶部320又は第2制御部310内の他の記憶部に記憶されてもよい。また、外部の装置に記憶された制御プログラムを、通信部345等を介して取得して実行する構成としてもよい。
また、接続装置10に形成された構成が重複して映像表示部20に形成されていてもよい。例えば、接続装置10のプロセッサーと同様のプロセッサーが映像表示部20に配置されてもよいし、接続装置10が備えるプロセッサーと映像表示部20のプロセッサーとが別々に分けられた機能を実行する構成としてもよい。
また、図11に示すフローチャートの処理単位は、HMD100の第1制御部120及びスマートフォン300の第2制御部310の処理を理解容易にするために、主な処理内容に応じて分割したものである。図11に示すフローチャートに示す処理単位の分割の仕方や名称によって実施形態が制限されることはない。また、第2制御部310の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
また、第2制御部310の処理を第1制御部120が実行してもよいし、第1制御部120の処理を第2制御部310が実行してもよい。
また、スマートフォン300の制御方法は、スマートフォン300が備えるコンピューターに、スマートフォン300の制御方法に対応した制御プログラムを実行させることで実現できる。また、この制御プログラムは、コンピューターで読み取り可能に記録した記録媒体に記録しておくことも可能である。記録媒体としては、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、フレキシブルディスク、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Versatile Disc)、Blu−ray(登録商標)Disc、光磁気ディスク、フラッシュメモリー、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。また、記録媒体は、画像表示装置が備える内部記憶装置であるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。また、スマートフォン300の制御方法に対応した制御プログラムをサーバー装置等に記憶させておき、サーバー装置からスマートフォン300に、制御プログラムをダウンロードすることでスマートフォン300の制御方法を実現することもできる。
1…表示システム、10…接続装置、11、11A、11D…コネクター、13、14…輝度調整キー、15、16…音量調整キー、20…映像表示部(第1表示部)、21…右保持部、22…右表示部、23…左保持部、24…左表示部、26…右導光板、261…ハーフミラー、28…左導光板、281…ハーフミラー、40…接続ケーブル、46…USBケーブル、61…カメラ(撮像部)、64…距離センサー、66…赤外線センサー(赤外線受光部)、68…内側カメラ、100…HMD(表示装置)、120…第1制御部、121…第1表示制御部、122…視線検出部、123…赤外線検出部、130…不揮発性記憶部、140…操作部、145…接続部、147…音声処理部、210…右表示部基板、221…OLEDユニット、230…左表示部基板、235…6軸センサー、237…磁気センサー、241…OLEDユニット、249…電源部、300…スマートフォン(情報処理装置)、310…第2制御部、311…第2表示制御部、312…伝送部、313…第1判定部、314…検出部、315…第2判定部、316…調整部、320…不揮発性記憶部、321…コンテンツデータ、330…表示部、331…表示パネル(第2表示部)、332…タッチセンサー(位置入力部)、341…I/F部、345…通信部、351…6軸センサー、352…磁気センサー、353…赤外線通信部(赤外線出射部)、PT1…第1画像、PT2…第2画像、θ、φ、ψ、η…傾斜角。

Claims (15)

  1. 使用者の頭部に装着される表示装置と、前記表示装置が接続される情報処理装置とを備える表示システムであって、
    前記表示装置は、
    外景を視認可能に構成され、前記外景に重ねて第1画像を表示する第1表示部と、
    前記第1画像を前記第1表示部に表示させる第1表示制御部と、を備え、
    前記情報処理装置は、
    第2画像を表示する第2表示部と、
    前記第2表示部に配置され、位置入力操作を受け付けて、操作位置の座標を検出する位置入力部と、
    前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定部と、
    前記表示装置に対する前記第2表示部の位置を検出する検出部と、
    前記表示装置に対する前記第2表示部の位置が前記第1表示部により視認される前記第1画像に含まれるか否かを判定する第2判定部と、
    前記第1判定部の判定結果と前記第2判定部の判定結果とに基づいて、前記第1表示部における前記第1画像の表示を調整する調整部と、を備える、表示システム。
  2. 前記表示装置は、前記外景を撮像する撮像部を備え、
    前記第1判定部は、前記撮像部が撮像した画像に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する、請求項1に記載の表示システム。
  3. 前記表示装置は、前記使用者の視線の方向を検出する視線検出部を備え、
    前記第1判定部は、前記視線検出部の検出結果に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する、請求項1又は2に記載の表示システム。
  4. 前記情報処理装置は、赤外線を出射する赤外線出射部を備え、
    前記表示装置は、前記赤外線を受光する赤外線受光部を備え、
    前記第1判定部は、前記赤外線受光部の受光結果に基づいて、前記情報処理装置の前記第2表示部が前記表示装置に対向しているか否かを判定する、請求項1から3のいずれか1項に記載の表示システム。
  5. 前記赤外線出射部は、前記第2表示部の表示面の法線方向に前記赤外線を出射する、請求項4に記載の表示システム。
  6. 前記表示装置は、距離を検出する距離センサーを備え、
    前記第1判定部は、前記距離センサーによって検出された前記表示装置と前記第2表示部との間の距離に基づいて、前記第2表示部が前記表示装置に対向しているか否かを判定する、請求項1から5のいずれか1項に記載の表示システム。
  7. 前記第2表示部が前記表示装置に対向していると前記第1判定部が判定し、前記表示装置に対する前記第2表示部の位置が前記第1表示部により視認される前記第1画像に含まれると前記第2判定部が判定した場合に、前記調整部は、前記第1表示部における前記第1画像の表示を調整する、請求項1から6のいずれか1項に記載の表示システム。
  8. 前記調整部は、前記第1表示部における前記第1画像のうちの前記第2表示部の位置に対応する画像の濃度を低減する、請求項7に記載の表示システム。
  9. 前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の表示を調整する、請求項7又は8に記載の表示システム。
  10. 前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の少なくとも一部の画像を非表示にする、請求項9に記載の表示システム。
  11. 前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像の表示位置を移動する、請求項9又は10に記載の表示システム。
  12. 前記調整部は、前記第2表示部の位置が前記第1画像に含まれないように、前記第1表示部における前記第1画像を縮小して表示する、請求項9から11のいずれか1項に記載の表示システム。
  13. 前記情報処理装置は、
    前記第2表示部に前記第2画像を表示させる第2表示制御部と、
    前記第1画像を示すデータを前記表示装置に伝送する伝送部と、を備え、
    前記第2画像は前記第1画像と一致する、請求項1から12のいずれか1項に記載の表示システム。
  14. 外景を視認可能に構成され、前記外景に重ねて画像を表示する第1表示部を有する表示装置が接続され、第2表示部と、前記第2表示部に配置される位置入力部と、コンピューターとを備える情報処理装置の制御プログラムであって、前記コンピューターを、
    前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定部、
    前記表示装置に対する前記情報処理装置の前記第2表示部の位置を検出する検出部、
    前記表示装置に対する前記第2表示部の位置が前記第1表示部に表示される前記画像に含まれるか否かを判定する第2判定部、及び、
    前記第1判定部の判定結果と前記第2判定部の判定結果とに基づいて、前記第1表示部における前記画像の表示を調整する調整部として機能させる、制御プログラム。
  15. 外景を視認可能に構成され、前記外景に重ねて画像を表示する第1表示部を有する表示装置が接続され、第2表示部と、前記第2表示部に配置される位置入力部と、コンピューターとを備える情報処理装置の制御方法であって、
    前記第2表示部が前記表示装置に対向しているか否かを判定する第1判定ステップと、
    前記表示装置に対する前記情報処理装置の前記第2表示部の位置を検出する検出ステップと、
    前記表示装置に対する前記第2表示部の位置が前記第1表示部に表示される前記画像に含まれるか否かを判定する第2判定ステップと、
    前記第1判定ステップの判定結果と前記第2判定ステップの判定結果とに基づいて、前記第1表示部における前記画像の表示を調整する調整ステップと、を含む、情報処理装置の制御方法。
JP2019029701A 2019-02-21 2019-02-21 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法 Active JP7238456B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019029701A JP7238456B2 (ja) 2019-02-21 2019-02-21 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法
CN202010101284.9A CN111600990B (zh) 2019-02-21 2020-02-19 显示系统、记录介质以及信息处理装置的控制方法
US16/795,829 US11393431B2 (en) 2019-02-21 2020-02-20 Display system, control program for information processor, and control method for information processor that are configured to adjust display of a first image on a first display unit based on the position of a second display unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019029701A JP7238456B2 (ja) 2019-02-21 2019-02-21 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法

Publications (3)

Publication Number Publication Date
JP2020135544A true JP2020135544A (ja) 2020-08-31
JP2020135544A5 JP2020135544A5 (ja) 2022-02-01
JP7238456B2 JP7238456B2 (ja) 2023-03-14

Family

ID=72142979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019029701A Active JP7238456B2 (ja) 2019-02-21 2019-02-21 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法

Country Status (3)

Country Link
US (1) US11393431B2 (ja)
JP (1) JP7238456B2 (ja)
CN (1) CN111600990B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6892960B1 (ja) * 2020-09-29 2021-06-23 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10698481B1 (en) 2017-09-28 2020-06-30 Apple Inc. Glint-assisted gaze tracker
JP2021064320A (ja) * 2019-10-17 2021-04-22 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP2022056043A (ja) 2020-09-29 2022-04-08 セイコーエプソン株式会社 表示システム、表示方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012204998A (ja) * 2011-03-24 2012-10-22 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2013113963A (ja) * 2011-11-28 2013-06-10 Seiko Epson Corp 透過型表示装置、及び操作入力方法
WO2016194844A1 (ja) * 2015-05-29 2016-12-08 京セラ株式会社 ウェアラブル装置
JP2018185638A (ja) * 2017-04-25 2018-11-22 パナソニックIpマネジメント株式会社 表示装置、透過型ヘッドマウントディスプレイ、制御装置および表示システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8576276B2 (en) * 2010-11-18 2013-11-05 Microsoft Corporation Head-mounted display device which provides surround video
US9217867B2 (en) * 2011-03-24 2015-12-22 Seiko Epson Corporation Head-mounted display device and control method for the head-mounted display device
JP5957875B2 (ja) * 2011-12-26 2016-07-27 ソニー株式会社 ヘッドマウントディスプレイ
CN105229720B (zh) * 2013-05-21 2018-05-15 索尼公司 显示控制装置、显示控制方法以及记录介质
US9448621B2 (en) * 2013-12-20 2016-09-20 Nokia Technologies Oy Causation of display of information on a see through display
KR102182161B1 (ko) * 2014-02-20 2020-11-24 엘지전자 주식회사 Hmd 및 그 제어 방법
JP2015197694A (ja) 2014-03-31 2015-11-09 シャープ株式会社 携帯端末装置およびその制御方法
US20150348322A1 (en) * 2014-06-02 2015-12-03 Dell Products L.P. Dynamically Composited Information Handling System Augmented Reality at a Primary Display
WO2016021252A1 (ja) * 2014-08-05 2016-02-11 ソニー株式会社 情報処理装置及び情報処理方法、並びに画像表示システム
EP2996017B1 (en) * 2014-09-11 2022-05-11 Nokia Technologies Oy Method, apparatus and computer program for displaying an image of a physical keyboard on a head mountable display
KR102243656B1 (ko) * 2014-09-26 2021-04-23 엘지전자 주식회사 모바일 디바이스, hmd 및 시스템
US9865091B2 (en) * 2015-09-02 2018-01-09 Microsoft Technology Licensing, Llc Localizing devices in augmented reality environment
KR102610120B1 (ko) * 2016-01-20 2023-12-06 삼성전자주식회사 Hmd 디바이스 및 그 제어 방법
US10163198B2 (en) * 2016-02-26 2018-12-25 Samsung Electronics Co., Ltd. Portable image device for simulating interaction with electronic device
EP3327544B1 (en) * 2016-11-25 2021-06-23 Nokia Technologies Oy Apparatus, associated method and associated computer readable medium
JP6919222B2 (ja) 2017-02-27 2021-08-18 セイコーエプソン株式会社 表示装置、及び、表示装置の制御方法
CN111837174B (zh) * 2018-06-25 2023-03-28 麦克赛尔株式会社 头戴式显示器、头戴式显示器协作系统及其方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012204998A (ja) * 2011-03-24 2012-10-22 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2013113963A (ja) * 2011-11-28 2013-06-10 Seiko Epson Corp 透過型表示装置、及び操作入力方法
WO2016194844A1 (ja) * 2015-05-29 2016-12-08 京セラ株式会社 ウェアラブル装置
JP2018185638A (ja) * 2017-04-25 2018-11-22 パナソニックIpマネジメント株式会社 表示装置、透過型ヘッドマウントディスプレイ、制御装置および表示システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6892960B1 (ja) * 2020-09-29 2021-06-23 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム
JP2022055697A (ja) * 2020-09-29 2022-04-08 Kddi株式会社 制御装置、情報処理システム、制御方法及びプログラム

Also Published As

Publication number Publication date
JP7238456B2 (ja) 2023-03-14
US11393431B2 (en) 2022-07-19
US20200273432A1 (en) 2020-08-27
CN111600990A (zh) 2020-08-28
CN111600990B (zh) 2022-04-26

Similar Documents

Publication Publication Date Title
US10657722B2 (en) Transmissive display device, display control method, and computer program
JP7238456B2 (ja) 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法
JP7243193B2 (ja) 表示システム、表示システムの制御方法、情報処理装置、及び情報処理装置の制御プログラム
JP2019128693A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
US11353704B2 (en) Head mounted device (HMD) coupled to smartphone executing personal authentication of a user
US10685595B2 (en) Connection device, display device, and control method for the display device
US11269188B2 (en) Display system, control program for information processing device, method for controlling information processing device, and display device
JP2018042004A (ja) 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
CN111488072B (zh) 信息处理装置、信息处理装置的控制方法以及记录介质
US11156841B2 (en) Display device, control program for display device, control method for display device, and display system
CN112581920B (zh) 显示系统、显示控制方法以及记录介质
JP2017142294A (ja) 表示装置、及び、表示装置の制御方法
CN111556310B (zh) 显示系统、记录介质以及信息处理装置的控制方法
JP2021047370A (ja) 表示装置、表示装置の制御方法、表示装置の制御プログラム、及び表示システム
JP2021057747A (ja) 表示システム、画像表示装置、画像表示方法及びプログラム
JP6631299B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230213

R150 Certificate of patent or registration of utility model

Ref document number: 7238456

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150