JP2019124849A - 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 - Google Patents

頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 Download PDF

Info

Publication number
JP2019124849A
JP2019124849A JP2018006080A JP2018006080A JP2019124849A JP 2019124849 A JP2019124849 A JP 2019124849A JP 2018006080 A JP2018006080 A JP 2018006080A JP 2018006080 A JP2018006080 A JP 2018006080A JP 2019124849 A JP2019124849 A JP 2019124849A
Authority
JP
Japan
Prior art keywords
display
unit
imaging
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018006080A
Other languages
English (en)
Other versions
JP7047394B2 (ja
Inventor
小林 伸一
Shinichi Kobayashi
伸一 小林
高野 正秀
Masahide Takano
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2018006080A priority Critical patent/JP7047394B2/ja
Priority to CN201910038527.6A priority patent/CN110060614B/zh
Priority to US16/249,996 priority patent/US11178344B2/en
Publication of JP2019124849A publication Critical patent/JP2019124849A/ja
Application granted granted Critical
Publication of JP7047394B2 publication Critical patent/JP7047394B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0693Calibration of display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • G09G2340/125Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2358/00Arrangements for display data security
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Computing Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Studio Devices (AREA)

Abstract

【課題】撮像画像を利用するシステムや装置において、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用する。【解決手段】使用者の頭部に装着され、画像を表示する画像表示部20Aと、画像表示部20Aに設けられ、画像表示部20Aに対する所定方向の画像を撮像するカメラ61と、カメラ61の撮像範囲における非表示領域を特定し、カメラ61の撮像画像データに対し非表示領域の明瞭度を低下させる処理を行い、処理後の撮像画像データを出力する制御部と、を備えるHMD1A。【選択図】図2

Description

本発明は、頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法に関する。
従来、カメラの撮像画像をインターネット等により送信する装置やシステムが知られている。一例として、特許文献1には、人を監視する監視カメラで撮像した映像をインターネットでテレビモニターやコンピューターに送信する構成が開示されている。
特開2002−142214号公報
ところで、撮像すべきでない事物が写っている撮像画像や、写っている可能性がある撮像画像を利用する場合には、配慮が必要である。例えば、特許文献1には、プライバシー保護のため、モザイク処理等により人物部分の映像をマスクすることが記載されている。特許文献1に記載されたシステムは、いわゆる監視カメラを用いているので、撮像範囲や被写体が固定的である。従って、撮像画像においてマスクすべき部分を特定できる。これに対し、装置構成や環境により、撮像範囲、撮像する方向、或いは、撮像される被写体が変化する場合には、撮像すべきでない事物が写っている可能性がある画像を、適切に利用することは困難であった。このため、例えば、人間が目視によって、撮像すべきでない事物が写っているか否かを判断するなど、負担の大きい作業を必要としていた。
本発明は上記事情に鑑みてなされたものであり、撮像画像を利用するシステムや装置において、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用することを目的とする。
上記課題を解決するため、本発明の頭部装着型表示装置は、使用者の頭部に装着され、画像を表示する表示部と、前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、を備える。
本発明によれば、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
また、本発明は、非表示対象を特定する非表示情報を記憶する記憶部を備え、前記制御部は、前記非表示情報に基づいて前記非表示領域を特定する。
この構成によれば、明瞭度を低下させる処理の対象である非表示領域を、記憶部に記憶した非表示情報に基づいて特定する。これにより、撮像すべきでない事物の画像を含む可能性のある非表示領域を、適切に特定できる。
また、本発明は、前記制御部は、前記撮像部の撮像範囲において、前記撮像部の撮像画像データに前記非表示対象の画像が含まれる領域を、前記非表示領域として特定する。
この構成によれば、撮像画像データに非表示対象が写る領域を、明瞭度を低下させる処理の対象とするので、撮像すべきでない事物の画像を適切に秘匿し、保護できる。
また、本発明は、前記記憶部が記憶する前記非表示情報は、前記非表示対象の位置及び方向の少なくともいずれかを示す情報を含む。
この構成によれば、非表示対象の位置および/または方向を示す情報に基づき、撮像画像データにおいて、非表示領域を適切に特定できる。
また、本発明は、前記記憶部が記憶する前記非表示情報は、前記非表示対象の前記撮像部からの距離を指定する情報を含む。
この構成によれば、撮像部からの距離を基準として、非表示領域を適切に特定できる。
また、本発明は、前記非表示対象は、予め設定された物体であり、前記記憶部が記憶する前記非表示情報は、前記撮像部の撮像画像データから前記非表示対象の外観を検出するための情報を含む。
この構成によれば、予め非表示対象として設定された物体の外観が撮像画像データに含まれる場合に、撮像画像データの非表示対象の明瞭度を低下させるので、非表示対象の視認を防止または抑制できる。例えば、秘匿すべき情報が印刷された印刷物、掲示物、書物、コンピューターのディスプレイ等を非表示対象としてもよい。秘匿すべき情報として、人のプライバシーに関する情報情報や個人情報が挙げられ、具体的には、人の顔、身体、服装、名札、名刺、個人名が掲載された掲示物等がある。また、例えば、機密情報として保護される非表示対象として、機械や設備そのもの、或いは、設計図面等が挙げられる。
また、本発明は、通信部を備え、前記制御部は、外部の装置から前記通信部によって前記非表示情報を受信し、前記記憶部に記憶させる。
この構成によれば、撮像画像データの処理に適した非表示情報を利用できる。
また、本発明は、前記表示部の位置を検出する検出部を備え、前記制御部は、前記検出部の検出結果から前記表示部の位置を特定し、前記表示部の位置と前記非表示情報とに基づいて、前記撮像画像データにおける前記非表示領域を検出する。
この構成によれば、撮像すべきでない事物の画像を含む可能性のある非表示領域を、表示部の位置に対応して特定できる。このため、撮像部が移動可能な構成において、撮像すべきでない事物の画像を含む可能性のある撮像画像を適切に利用できる。
また、本発明は、前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記第1撮像画像データにおける前記非表示領域を、前記第2撮像画像データで対応する領域の画像と置き換える。
この構成によれば、画像を部分的に置換する処理により、非表示領域の明瞭度を低下させることができる。
また、本発明は、前記表示部が移動可能な範囲の少なくとも一部を含むマップデータを有し、前記制御部は、前記マップデータにおける前記非表示領域を特定する。
この構成によれば、マップデータを利用して、非表示領域を容易に特定できる。
また、本発明は、前記制御部は、前記表示部が移動可能な範囲の前記マップデータを作成し、作成した前記マップデータにおける前記非表示領域を特定する。
この構成によれば、必要に応じてマップデータを作成し、このマップデータを利用して、非表示領域を容易に特定できる。
また、本発明は、前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記非表示対象の画像を含む前記第1撮像画像データを前記第2撮像画像データと置き換える。
この構成によれば、画像を置換する処理により、非表示領域を含む撮像画像全体の明瞭度を低下させることができる。
また、本発明は、前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記撮像部の撮像条件を制御して前記撮像部に撮像を実行させ、明瞭度が異なる部分を有する撮像画像データを生成させる。
この構成によれば、撮像部が撮像する条件を制御することで撮像画像データの明瞭度を低下させるので、撮像画像データの画像処理を簡易化、或いは省略できる。このため、処理負荷を軽減できる。
また、本発明は、操作を受け付ける操作部を備え、前記制御部は、前記操作部が受け付けた操作により、前記撮像部の撮像範囲において前記非表示対象が指定された場合に、指定された前記非表示対象の位置および方向の少なくともいずれかに基づいて、前記非表示情報を生成する。
この構成によれば、操作に応じて非表示情報を生成するので、撮像画像データにおいて明瞭度を低下させる処理の対象を適切に設定できる。
また、上記課題を解決するため、本発明の表示システムは、頭部装着型表示装置と、サーバーとを備え、前記サーバーは、非表示対象を特定する非表示情報を記憶するサーバー記憶部と、前記サーバー記憶部に記憶された前記非表示情報を前記頭部装着型表示装置に送信する送信部と、を備え、前記頭部装着型表示装置は、使用者の頭部に装着され、画像を表示する表示部と、前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、通信部と、前記通信部により前記サーバーから受信される前記非表示情報を記憶する記憶部と、前記記憶部に記憶された前記非表示情報に基づいて、前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、を備える。
この構成によれば、頭部装着型表示装置により、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。このため、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。また、頭部装着型表示装置はサーバーから非表示情報を受信できるため、撮像画像データの処理に適した非表示情報を利用できる。これにより、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
また、上記課題を解決するため、本発明の頭部装着型表示装置の制御方法は、使用者の頭部に装着され、画像を表示する表示部を備える頭部装着型表示装置の制御方法であって、前記表示部に設けられる撮像部によって、前記表示部に対する所定方向の画像を撮像し、前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する。
本発明によれば、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
本発明は、上述した頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法以外の種々の形態で実現することも可能である。例えば、上記の制御方法をコンピューターにより実行するためのプログラム、上記プログラムを記録した記録媒体、上記プログラムを配信するサーバー装置、上記プログラムを伝送する伝送媒体、上記プログラムを搬送波内に具現化したデータ信号等の形態で実現できる。
第1実施形態の表示システムの構成図。 HMDの外観構成を示す説明図。 画像表示部と撮像範囲の対応を示す模式図。 HMDのブロック図。 HMDの制御部および記憶部の機能ブロック図。 HMDの動作を示すフローチャート。 HMDの動作を示すフローチャート。 撮像画像データに対する処理の説明図。 HMDの動作を示すフローチャート。 第2実施形態のHMDの動作を示すフローチャート。 第2実施形態におけるHMDの動作の説明図。
[1.第1実施形態]
[1−1.表示システムの構成]
図1は、本発明を適用した実施形態に係る表示システム100の概略構成図である。
表示システム100は、複数のHMD(Head Mounted Display)1と、サーバー200とを備え、HMD1とサーバー200とは通信ネットワーク2により通信可能に接続される。
表示システム100に含まれるHMD1の数に制限はなく、図1には一例として、3つのHMD1A、1B、1Cを示す。表示システム100のHMD1A、1B、1Cは、いずれも共通する構成を有する。HMD1A、1B、1Cを区別する必要のない場合はHMD1と表記する。
HMD1A、1B、1Cは、図1に示すように使用者が頭部に装着する頭部装着型表示装置であり、使用者が虚像を視認すると同時に外景も直接視認可能な光学透過型である。以下の説明では、HMD1A、1B、1Cによって使用者が視認する虚像を便宜的に「表示画像」と呼ぶ。また、画像データに基づく画像光を射出することを「画像を表示する」という。ここで、画像とは、静止画像に限らず、動画像(映像)を含む。
典型的な表示システム100の使用形態では、複数の使用者Uが、それぞれHMD1を装着する。図1には3台のHMD1A、1B、1Cを、3人の使用者U1、U2、U3が装着する例を示すが、使用者Uの数はHMD1の数と同様に限定されない。また、複数の使用者Uが、1台のHMD1を交代して使用することも勿論可能である。以下、使用者U1、U2、U3の各々を区別しない場合は使用者Uと表記する。
表示システム100の使用例として、本実施形態では、使用者U1が装着するHMD1Aが、使用者U1の視野を撮像し、撮像画像を、通信ネットワーク2を介して送信する。HMD1Aが送信する撮像画像は、サーバー200に一時的に記憶され、サーバー200からHMD1B、1Cに配信される。HMD1B、1Cは、サーバー200により配信される撮像画像データを受信して表示する。このように、表示システム100は、HMD1Aが撮像した画像を使用者U1とともに使用者U2、U3が共有する共有システムとして機能する。
表示システム100では、HMD1A、1B、1Cがそれぞれ、相互に無線通信を実行し、画像データ、音声データ、制御データ等を含む各種のデータを送受信できる。本実施形態では、HMD1Aの撮像画像データを送受信する例を説明する。
サーバー200は、いわゆるクラウドサーバーとして構成され、具体的なハードウェア構成は任意である。すなわち、サーバー200を1台のサーバー装置で構成する例に限定されず、サーバー200の機能を複数のサーバー装置に分散して実行する構成であってもよい。
サーバー200は、HMD1に対して外部の装置に相当する。サーバー200は、サーバー記憶部210、及び、サーバー通信部220(送信部)を有する。サーバー記憶部210は、HMD1A、1B、1C等と送受信する各種データを記憶する。例えば、サーバー200は、後述する非表示情報やマップデータを、サーバー記憶部210に記憶しており、HMD1Aから要求を受信した場合に、要求された非表示情報やマップデータをHMD1Aに送信する。サーバー通信部220は、通信ネットワーク2を介してHMD1A、1B、1C等とデータ通信を行う装置であり、例えば、ネットワークインターフェース基板等で構成される。
通信ネットワーク2は、公衆回線網、専用線、携帯電話回線を含む無線通信回線、及び、これらの回線のバックボーン通信回線など、各種の通信回線、或いは、各種通信回線の組合せで実現され、具体的構成は限定されない。通信ネットワーク2は、遠隔地を接続できる広域通信回線網であってもよいし、特定の施設や建物内に敷設されたLAN(Local Area Network)であってもよい。また、通信ネットワークは、上記各種通信回線を接続するサーバー装置、ゲートウェイ装置、ルーター装置等のネットワーク機器を含んでもよい。また、通信ネットワークが複数の通信回線で構成されてもよい。
通信ネットワーク2には、無線アクセスポイント2A、2B、2Cが接続される。無線アクセスポイント2A、2B、2Cはいずれも、無線LAN等の規格に準じた無線通信を実行し、HMD1A、1B、1Cのそれぞれを通信ネットワーク2に接続する。
使用者U1がいる場所と、使用者U2、U3がいる場所とは、通信ネットワークに接続可能であれば地理的制約はなく、遠隔地であってもよいし、近接した場所であってもよい。従って、HMD1A、1B、1Cは、近接した位置で使用されてもよいし、遠く離れた状態で使用されてもよい。
HMD1は、後述するように、使用者Uが実空間の景色(外景)を視認できるように、画像表示部20(表示部)により画像を表示するので、使用者Uは、外景と、画像表示部20が表示する画像とを重ねて視認できる。画像表示部20の具体的構成は任意であるが、本実施形態では、外部から入射する光(外光)を透過する透過型の画像表示部20を例示する。
HMD1Aは、使用者U1が頭部に装着する画像表示部20A(表示部)、及び、画像表示部20を制御するコントローラー10Aを備える。画像表示部20Aは、使用者U1の頭部に装着された状態で使用者に虚像を視認させる。コントローラー10Aは、使用者U1がHMD1Aを操作する制御装置としても機能する。
HMD1B、1Cは、画像表示部20Aと同様に構成される画像表示部20B、20C、及び、コントローラー10Aと同様に構成されるコントローラー10B、10Cを備える。以下、画像表示部20A、20B、20Cを区別しない場合は画像表示部20と表記し、コントローラー10A、10B、10Cを区別しない場合はコントローラー10と表記する。
[1−2.HMDの構成]
ここで、HMD1Aを例に挙げて、HMD1の構成を説明する。HMD1B、1Cについては図示及び説明を省略する。
図2は、HMD1Aの外観構成を示す図である。
コントローラー10Aは、箱形の本体11に、使用者U1の操作を受け付ける各種のスイッチや操作パッド14等を備える。画像表示部20Aは、本実施形態では眼鏡形状を有し、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示ユニット22、左表示ユニット24、右導光板26、及び左導光板28を備える。
右保持部21及び左保持部23は、前部フレーム27の両端部から後方に延び、使用者U1の頭部に画像表示部20Aを保持する。前部フレーム27の両端部のうち画像表示部20Aの装着時に使用者U1の右側に位置する端部を端部ERとし、左側に位置する端部を端部ELとする。
右導光板26及び左導光板28は、前部フレーム27に設けられる。画像表示部20Aの装着状態において、右導光板26は使用者U1の右眼の眼前に位置し、左導光板28は使用者U1の左眼の眼前に位置する。
右表示ユニット22及び左表示ユニット24は、光学ユニット及び周辺回路をユニット化したモジュールであり、画像光を出射する。右表示ユニット22は、右保持部21に取り付けられ、左表示ユニット24は、左保持部23に取り付けられる。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部品である。例えば、右導光板26及び左導光板28はプリズムである。右導光板26は、右表示ユニット22が出力する画像光を使用者U1の右眼に向けて導き、左導光板28は、左表示ユニット24が出力する画像光を使用者の左眼に導く。これにより、使用者U1の両眼に画像光が入射し、使用者U1が画像を視認できる。
HMD1Aはシースルー型の表示装置であり、使用者Uの右眼REには、右導光板26により導かれた画像光と、右導光板26を透過した外光とが入射する。同様に、左眼LEには、左導光板28により導かれた画像光と、左導光板28を透過した外光とが入射する。このように、HMD1Aは、内部で処理した画像に対応する画像光と外光とを重ねて使用者Uの眼に入射させ、使用者Uにとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、画像光による画像が視認される。
右導光板26及び左導光板28の表面に、調光機能を有する電子シェード(図示略)を設けてもよい。電子シェードは、後述する制御部150(図5)の制御により光の透過率(透光率)が変化する板状の電子デバイスであり、例えば液晶パネルを備える。画像表示部20Aに電子シェードを設けた場合、画像表示部20Aを装着する使用者の右眼RE及び左眼LEには、電子シェードを透過した外光が入射するので、電子シェードの透過率により、使用者の眼に入射する外光の光量を調整できる。
画像表示部20Aの前部フレーム27には、照度センサー65が配置される。照度センサー65は、画像表示部20Aを装着する使用者U1の前方からの外光を受光する。
カメラ61(撮像部)は、画像表示部20Aの前部フレーム27に配設される。カメラ61の撮像範囲および撮像方向については後述する。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図2の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラであり、本実施形態のカメラ61は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ61は、制御部150の制御に従って撮像を実行し、撮像画像データを制御部150に出力する。
前部フレーム27には、LEDインジケーター67が配置される。LEDインジケーター67は、端部ERにおいてカメラ61の近傍に配置され、カメラ61の動作中に点灯して、撮像中であることを報知する。
距離センサー64は、予め設定された測定方向に位置する測定対象物までの距離を検出する。本実施形態では、距離センサー64は前部フレーム27に設けられ、使用者U1の前方に位置する測定対象物までの距離を検出する。距離センサー64は、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する光反射式距離センサーであってもよい。また、距離センサー64は、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える超音波式の距離センサーであってもよい。また、距離センサー64は、レーザーレンジスキャナー(測域センサー)を用いてもよく、この場合、画像表示部20Aの前方を含む広範囲の領域に対し測域を行える。
コントローラー10Aと画像表示部20Aとは、接続ケーブル40により接続される。接続ケーブル40は、本体11のコネクター42に着脱可能に接続される。
接続ケーブル40は、オーディオコネクター46を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター46に接続される。
マイク63は、音声を集音して、音声信号を音声インターフェイス182(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
コントローラー10Aは、使用者U1により操作される被操作部として、ホイール操作部12、中央キー13、操作パッド14、上下キー15、LED表示部17、及び電源スイッチ18を備える。これらの被操作部は本体11の表面に配置される。これらの被操作部は、例えば、使用者U1の手指により操作される。
本体11にはLED(Light Emitting Diode)表示部17が設置される。LED表示部17は、光を透過可能な透過部(図示略)を有し、透過部の直下に設置されるLEDが点灯することで、透過部に形成された文字、記号、模様等を視認可能な状態とする。LED表示部17に対する使用者U1の手指の接触操作は、タッチセンサー172(図4)により検出される。このため、LED表示部17とタッチセンサー172との組合せはソフトウェアキーとして機能する。
電源スイッチ18は、HMD1Aの電源のオン/オフを切り替えるスイッチである。また、本体11は、コントローラー10Aを、外部の装置に接続するインターフェイスとして、USB(Universal Serial Bus)コネクター19を備える。
図3は、画像表示部20Aの要部構成を示す図であり、カメラ61の位置を、使用者U1の右眼RE及び左眼LEとともに平面視で模式的に示す。
図3に、カメラ61の画角(撮像範囲)をCで示す。カメラ61は、使用者U1の両眼が向く方向、すなわち使用者U1にとって前方を撮像する。なお、カメラ61の実際の画角は一般的なデジタルカメラと同様に上下方向にも拡がる。
カメラ61は、HMD1Aを装着した状態における使用者U1の視界方向の少なくとも一部の外景(実空間)を撮像し、カメラ61の画角Cは、使用者U1の正面方向を向き、使用者U1が画像表示部20Aを透過して視認する外景と重複する。画角Cは、使用者U1が画像表示部20を透過して視認する視界の全体を含むことが、より好ましい。
カメラ61は無限遠にフォーカスする構成であってもよいが、制御部150の制御によりフォーカス調整が可能なものであってもよい。
図3に示すように、使用者U1が両眼で対象物OBを注視すると、使用者U1の視線は、図中符号RD、LDに示すように対象物OBに向けられる。この場合、使用者U1から対象物OBまでの距離は、30cm〜10m程度であることが多く、1m〜4m程度であることが、より多い。そこで、HMD1Aについて、通常使用時における使用者U1から対象物OBまでの距離の上限、及び下限の目安を定めてもよい。この目安は調査や実験により求めてもよいし使用者U1が設定してもよい。カメラ61の光軸、及び画角Cは、通常使用時における対象物OBまでの距離が、設定された上限の目安に相当する場合、及び、下限の目安に相当する場合に、この対象物OBが画角に含まれるように、設定されることが好ましい。
また、一般に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされ、そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。さらに、人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45度〜70度程度とされている。この場合、注視点が、図3の対象物OBであるとき、視線RD、LDを中心として水平方向に30度、垂直方向に20度程度が有効視野である。また、水平方向に60〜90度、垂直方向に45度〜70度程度が安定注視野であり、水平方向に約200度、垂直方向に約125度が視野角となる。さらに、使用者U1が画像表示部20Aを透過して右導光板26及び左導光板28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶことができる。図2に示す本実施形態の構成で、実視野は、右導光板26及び左導光板28を透過して使用者U1が視認する実際の視野に相当する。実視野は、視野角及び安定注視野より狭いが、有効視野より広い。
そこで、カメラ61の画角Cは、使用者U1の有効視野よりも広いことが好ましい。より好ましくは、画角Cは使用者U1の実視野よりも広く、さらに好ましくは、画角Cは使用者U1の安定注視野よりも広い。最も好ましくは、画角Cは使用者U1の両眼の視野角よりも広い。
カメラ61が、撮像レンズとして、いわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよいし、単焦点レンズであってもズームレンズであってもよく、複数のレンズからなるレンズ群をカメラ61が備える構成であってもよい。
また、上述のように、カメラ61は端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。この場合、カメラ61の左右方向における位置は図4の位置とは異なり、カメラ61の光軸および画角Cは、カメラ61の設置位置に応じて適宜に設定される。
なお、以下の説明では、画角Cに対応するカメラ61の撮像範囲を、単に撮像範囲とする。
図3には、使用者U1の輻輳角を符号PAで示す。輻輳角PAは、使用者U1が注視する対象物OBまでの距離に対応する。すなわち、使用者U1が立体的に画像や物体を視認する場合、視認する対象までの距離に対応して、右眼RE及び左眼LEの輻輳角が定まる。従って、輻輳角を検出することで、使用者U1が注視する距離を求めることができる。また、使用者U1の輻輳角を誘導するように画像を表示することにより、立体視を誘導できる。
使用者U1は、右眼REの視線方向RAを、右表示ユニット22の画像の左右方向における表示位置に応じて調整し、左眼LEの視線方向LAを、左表示ユニット24の画像の左右方向における表示位置に応じて調整する。このため、右表示ユニット22、左表示ユニット24の画像の表示位置を制御することで、使用者U1の右眼REと左眼LEの視線を誘導し、画像表示部20Aの表示画像を視認する際の輻輳角PAを制御できる。
従って、使用者U1が、画像表示部20Aの表示画像を認識し、知覚する距離を、HMD1Aの機能により調整可能である。
カメラ61が撮像する撮像方向(本発明の所定方向)の具体例として、使用者U1の視線方向を含む方向が挙げられるが、画像表示部20を装着した使用者U1の前方であってもよい。また、画像表示部20を装着した使用者U1の移動方向をカメラ61の撮像方向とする構成であってもよい。また、使用者U1が、後述する非表示対象を見る方向であってもよい。カメラ61の画角は上述したように任意であり、広角であってもよく、例えば全方位カメラのように、360°を撮像可能なカメラであってもよく、複数の撮像素子や複数のレンズ等を備えて広角の撮像を可能とした複合デバイスであってもよい。
[1−3.HMDの制御系]
図4は、HMD1Aを構成する各部の構成を示すブロック図である。
コントローラー10Aは、プログラムを実行してHMD1Aを制御するメインプロセッサー125を備える。メインプロセッサー125には、メモリー118及び不揮発性記憶部121が接続される。メインプロセッサー125には、入力装置として操作部170が接続される。
メインプロセッサー125には、センサー類として、6軸センサー111、磁気センサー113、及び、GPS115が接続される。
メインプロセッサー125には、通信部117、音声コーデック180、外部メモリーインターフェイス186、USBコネクター19、センサーハブ192、及び、FPGA194が接続される。これらは外部とのインターフェイスとして機能する。
メインプロセッサー125は、コントローラー10Aが内蔵するコントローラー基板120に実装される。本実施形態では、コントローラー基板120に、6軸センサー111、磁気センサー113、GPS115、通信部117、メモリー118、不揮発性記憶部121、音声コーデック180等がコントローラー基板120に実装される。また、外部メモリーインターフェイス186、USBコネクター19、センサーハブ192、FPGA194、及びインターフェイス196をコントローラー基板120に実装してもよい。また、コネクター42、及びUSBコネクター19を、コントローラー基板120に実装してもよい。
メモリー118は、メインプロセッサー125により実行されるプログラム、及び、メインプロセッサー125が処理するデータ等を一時的に記憶するワークエリアを構成する。不揮発性記憶部121は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部121は、メインプロセッサー125が実行するプログラムや、メインプロセッサー125が処理するデータを記憶する。
操作部170は、LED表示部17、タッチセンサー172、及びスイッチ174を含む。タッチセンサー172は、使用者U1によるタッチ操作を検出し、操作位置を特定し、メインプロセッサー125に対して操作信号を出力する。スイッチ174は、上下キー15、及び、電源スイッチ18の操作に応じて、メインプロセッサー125に操作信号を出力する。LED表示部17は、メインプロセッサー125の制御に従って、LEDを点灯、点滅、消灯させる。操作部170は、例えば、LED表示部17、タッチセンサー172、スイッチ174、及び、これらを制御する回路が実装されたスイッチ基板であり、本体11に収容される。
6軸センサー111は、コントローラー10Aの動きを検出するモーションセンサー(慣性センサー)の一例である。6軸センサー111は、3軸加速度センサー、及び、3軸ジャイロ(角速度)センサーを備える。6軸センサー111は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。
磁気センサー113は、例えば、3軸の地磁気センサーである。
GPS(Global Positioning System)115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信する受信機である。GPS115は、GPS信号に基づき、コントローラー10Aの現在位置の座標を検出または算出する。
6軸センサー111、磁気センサー113及びGPS115は、予め指定されたサンプリング周期に従ってメインプロセッサー125に出力値を出力する。また、6軸センサー111、磁気センサー113及びGPS115は、メインプロセッサー125の要求に応じて、メインプロセッサー125により指定されたタイミングで、検出値をメインプロセッサー125に出力する構成であってもよい。
通信部117は、外部の機器との間で無線通信を実行する通信装置である。通信部117は、図示しないアンテナ、RF回路、ベースバンド回路、通信制御回路等を備え、これらが統合されたデバイスであってもよい。また、各種回路が実装された通信モジュール基板であってもよい。通信部117は、例えば、Bluetooth(登録商標)、無線LAN(Wi−Fi(登録商標)を含む)等の規格に準拠した無線通信を行う。通信部117は、無線アクセスポイント2A(図1)と無線データ通信を行う。
音声信号を入出力する音声インターフェイス182は、オーディオコネクター46(図2)に接続され、音声信号の入出力および音声信号のエンコード/デコードを行う。音声コーデック180はアナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、及び、その逆の変換を行うD/Aコンバーターを備えてもよい。
外部メモリーインターフェイス186は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。
コントローラー10Aは、バイブレーター176を搭載する。バイブレーター176は、モーター(図示略)、偏心した回転子(図示略)等を備え、メインプロセッサー125の制御に従って振動を発生する。例えば、操作部170に対する操作や、HMD1Aの電源のオン/オフに応じて、所定の振動パターンでバイブレーター176が振動を発生する。
インターフェイス(I/F)196は、センサーハブ192及びFPGA(Field Programmable Gate Array)194を、画像表示部20Aに接続する。
センサーハブ192は、画像表示部20Aが備える各種センサーの検出値を取得してメインプロセッサー125に出力する。FPGA194は、メインプロセッサー125と画像表示部20Aの各部との間で送受信するデータの処理、及び、インターフェイス196を介した伝送を実行する。
接続ケーブル40、及び、図示しない画像表示部20A内部の配線により、コントローラー10Aに、右表示ユニット22と、左表示ユニット24とが個別に接続される。
右表示ユニット22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。OLEDユニット221が発する画像光は、レンズ群等を含む光学系により、右導光板26に導かれる。左表示ユニット24は、画像光を発するOLEDユニット241を備える。OLEDユニット241が発する画像光は、レンズ群等を含む光学系により、左導光板28に導かれる。
OLEDユニット221、241は、OLEDパネルやOLEDパネルを駆動する駆動回路を有する。OLEDパネルは、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される、自発光型の表示パネルである。OLEDパネルは、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。駆動回路は、制御部150の制御に従って、OLEDパネルの発光素子の選択及び発光素子への通電を実行して、OLEDパネルの発光素子を発光させる。これにより、OLEDユニット221、241に形成された画像の画像光が、右導光板26及び左導光板28に導かれ、右眼RE及び左眼LEに入射する。
右表示ユニット22は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)211、インターフェイス211を介してコントローラー10Aから入力されるデータを受信する受信部(Rx)213、及び、EEPROM215が実装される。インターフェイス211は、受信部213、EEPROM215、温度センサー69、カメラ61、照度センサー65、および、LEDインジケーター67を、コントローラー10Aに接続する。
EEPROM(Electrically Erasable Programmable Read−Only Memory)215は、メインプロセッサー125が読み取り可能にデータを記憶する。EEPROM215は、例えば、画像表示部20Aが備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22または左表示ユニット24が備えるセンサーの特性に関するデータなどを記憶する。具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー69、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD1Aの工場出荷時の検査によって生成され、EEPROM215に書き込まれ、出荷後はメインプロセッサー125がEEPROM215のデータを利用して処理を行える。
カメラ61は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データ、或いは、撮像結果を示す信号をインターフェイス211に出力する。
照度センサー65は、受光量(受光強度)に対応する検出値を、インターフェイス211に出力する。LEDインジケーター67は、インターフェイス211を介して入力される信号に従って点灯および消灯する。
温度センサー69は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス211に出力する。温度センサー69は、OLEDユニット221が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー69を実装してもよい。
受信部213は、インターフェイス211を介してメインプロセッサー125が送信するデータを受信する。受信部213は、インターフェイス211から画像データを受信した場合に、受信した画像データを、OLEDユニット221に出力する。
左表示ユニット24は、表示ユニット基板230を有する。表示ユニット基板230には、インターフェイス196に接続されるインターフェイス(I/F)231、インターフェイス231を介してコントローラー10Aから入力されるデータを受信する受信部(Rx)233が実装される。また、表示ユニット基板230には、6軸センサー235、及び、磁気センサー237が実装される。インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を、コントローラー10Aに接続する。
6軸センサー235は、画像表示部20Aの動きを検出するモーションセンサーの一例である。6軸センサー235は、3軸加速度センサー、及び、3軸ジャイロセンサーを備える。6軸センサー235は、上記のセンサーがモジュール化されたIMUであってもよい。
磁気センサー237は、例えば、3軸の地磁気センサーである。
温度センサー239は、温度を検出し、検出温度に対応する電圧値あるいは抵抗値を、検出値としてインターフェイス231に出力する。温度センサー239は、OLEDユニット241が有するOLEDパネルの裏面側、或いは、OLEDパネルを駆動する駆動回路と同一の基板に実装され、OLEDパネルの温度を検出する。また、OLEDパネルがSi−OLEDとして、駆動回路等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
カメラ61、照度センサー65、温度センサー69、6軸センサー235、磁気センサー237、温度センサー239は、コントローラー10Aのセンサーハブ192に接続される。
センサーハブ192は、メインプロセッサー125の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ192は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ192は、予め設定されたタイミングで、各センサーの検出値をメインプロセッサー125に出力する。センサーハブ192は、メインプロセッサー125に対する出力のタイミングに合わせて、各センサーの検出値を一時的に保持する機能を備えてもよい。また、センサーハブ192は、各センサーの出力値の信号形式、或いはデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー125に出力する機能を備えてもよい。
また、センサーハブ192は、メインプロセッサー125の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯または点滅させる。
コントローラー10Aは、電源部130を備え、電源部130から供給される電力により動作する。電源部130は充電可能なバッテリー132、及び、バッテリー132の残容量の検出およびバッテリー132への充電の制御を行う電源制御回路134を備える。
USBコントローラー198は、USBデバイスコントローラーとして機能し、USBコネクター19に接続されるUSBホスト装置との間で通信を確立し、データ通信を行う。また、USBコントローラー198は、USBデバイスコントローラーとしての機能に加え、USBホストコントローラーとしての機能を有してもよい。
図5は、HMD1Aのコントローラー10Aの制御系を構成する記憶部140、及び制御部150の機能ブロック図である。図5に示す記憶部140は、不揮発性記憶部121(図4)により構成される論理的な記憶部であり、EEPROM215を含んでもよい。制御部150、及び、制御部150が有する各種の機能部は、メインプロセッサー125がプログラムを実行することによって、ソフトウェアとハードウェアとの協働により形成される。制御部150、及び制御部150を構成する各機能部は、例えば、メインプロセッサー125、メモリー118、及び不揮発性記憶部121により構成される。
記憶部140は、メインプロセッサー125が実行する各種のプログラム、及び、これらのプログラムにより処理されるデータを記憶する。記憶部140は、オペレーティングシステム(OS)141、アプリケーションプログラム142、設定データ143、アプリケーション設定データ144、コンテンツデータ145、マップデータ146、及び、非表示情報147を記憶する。
制御部150は、記憶部140が記憶するプログラムを実行することにより、記憶部140が記憶するデータを処理して、HMD1Aを制御する。
オペレーティングシステム141は、メインプロセッサー125が実行するHMD1Aの基本制御プログラムである。メインプロセッサー125は、電源スイッチ18の操作によってHMD1Aの電源がオンに切り替わると、オペレーティングシステム141をロードして実行する。メインプロセッサー125がオペレーティングシステム141を実行することで、制御部150の各種機能が実現される。制御部150の機能とは、基本制御部151、通信制御部152、画像処理部153、表示制御部154、撮像制御部155、検出制御部156、位置検出部157、及び、非表示情報処理部158を含む。また、オペレーティングシステム141が実現する機能は、アプリケーション実行部159を含む。
アプリケーションプログラム142は、メインプロセッサー125がオペレーティングシステム141を実行した状態で、メインプロセッサー125が実行するプログラムである。アプリケーションプログラム142は、制御部150の各種機能を利用する。記憶部140が記憶するアプリケーションプログラム142は1つではなく複数であってもよい。例えば、アプリケーションプログラム142は、画像コンテンツ再生、音声コンテンツ再生、ゲーム、カメラ撮影、文書作成、ウェブブラウジング、スケジュール管理、電話(音声通信を含む)、画像通信、経路ナビゲーション等の機能を実現する。
設定データ143は、HMD1Aの動作に係る各種の設定値を含む。また、制御部150がHMD1Aを制御する際にパラメーター、行列式、演算式、LUT(LookUp Table)等を用いる場合、これらを設定データ143に含めてもよい。
アプリケーション設定データ144は、HMD1Aにおいてアプリケーションプログラム142を実行する場合に使用されるデータである。詳細には、アプリケーションプログラム142に含まれる各種プログラムを実行する場合の実行条件等のデータを含む。例えば、アプリケーションプログラム142の実行時の画像表示サイズ、画面の向き、アプリケーションプログラム142が使用する制御部150の機能部あるいはHMD1Aのセンサー類等を示すデータを含む。
HMD1Aでは、アプリケーションプログラム142を導入する際に、制御部150の機能によりインストール処理を実行する。インストール処理は、アプリケーションプログラム142を記憶部140に記憶するだけでなく、アプリケーションプログラム142の実行条件の設定等を含む処理である。インストール処理により、記憶部140に、アプリケーションプログラム142に対応するアプリケーション設定データ144が生成または記憶されると、アプリケーション実行部159がアプリケーションプログラム142を起動できる。
コンテンツデータ145は、制御部150の制御によって画像表示部20Aが表示する画像や映像を含むコンテンツのデータである。コンテンツデータ145は、静止画像データ、映像(動画像)データ、音声データ等を含む。コンテンツデータ145は複数のコンテンツのデータを含んでもよい。コンテンツデータ145は、双方向型のコンテンツのデータであってもよい。例えば、画像表示部20Aがコンテンツを表示した場合に、コントローラー10Aに対する使用者Uの操作に応じて、コンテンツの表示形態やコンテンツ自体が切り替えられる。この場合、コンテンツデータ145は、コンテンツのデータとともに、操作を受け付ける場合に表示するメニュー画面の画像データ、メニュー画面に含まれる項目に対応する処理等を定めるデータ等を含んでもよい。
マップデータ146は、HMD1Aが使用される範囲の位置情報を含むデータである。マップデータ146には、後述する非表示対象などの物体の位置を、位置情報に対応付けるためのデータである。マップデータ146は2D(2次元)のデータであってもよいし3D(3次元)のデータであってもよい。非表示対象の位置を示す情報は、マップデータ146に合わせた情報であればよく、2Dの位置情報であってもよいし、3Dの位置情報であってもよい。また、マップデータ146は、指定されたHMD1Aを使用可能な、閉鎖された領域のデータであってもよい。この場合、マップデータ146に含まれる位置情報は、閉鎖された領域における位置を示す情報であればよく、汎用性のない情報であってもよい。また、マップデータ146は、緯度、経度、海抜(高度)を位置情報として用いた汎用的なマップデータ146であってもよい。
制御部150は、マップデータ146を利用してSLAM(Simultaneous Localization and Mapping)を実行してもよい。この場合、マップデータ146は、HMD1Aが使用される領域の位置情報を記録するためのテンプレート、或いは、プラットホームとすることができる。
SLAMを実行する場合、制御部150は、画像表示部20を装着した使用者U1が移動する場合に、画像表示部20の移動範囲でマップを作成する処理を行う。SLAMは、カメラ61の撮像画像データから物体を検出し、検出した物体の形状をもとに位置検出を行う技術である。マップを作成する処理で、制御部150は、画像表示部20の移動中にカメラ61により複数回の撮像を実行し、撮像画像データから同一形状を検出した場合に、同一形状の位置を同一位置とする対応付けを行う。この処理を継続して実行することで、制御部150は、画像表示部20の周囲の閉じたマップを作成する。作成されたマップは、例えば、制御部150が磁気センサー113、GPS115、通信部117、6軸センサー235、磁気センサー237等の検出値に基づき検出した位置の座標と対応付けられ、或いは、HMD1の移動範囲の座標と対応付けられて、マップデータ146とすることができる。また、マップデータ146は、座標と対応づけられていない状態であってもよい。公知のSLAM技術は空間地図を作成することが可能であるため、マップデータ146は、3次元のマップとすることができる。また、制御部150は、公知のMonte Carlo法でマップデータ146を作成してもよい。
非表示情報147は、HMD1Aがカメラ61により撮像した撮像画像データにおいて、非表示とすべき対象物(以下、非表示対象とする)を示すデータを含む。非表示対象とは、HMD1Aからサーバー200に送信する画像に含まれることが望ましくない事物を指す。非表示対象は、プライバシー保護の観点、或いは、機密情報保護の観点から決定される。つ具体的には、個人を特定し得る非表示対象として、人の顔、身体、服装、名札、名刺、個人名が掲載された掲示物等が挙げられる。また、機密情報として保護される非表示対象として、機械や設備、設計図面、コンピューターのディスプレイに表示された情報等が挙げられる。別の表現では、非表示対象は、秘匿すべき情報を含む印刷物、掲示物、書物、コンピューターのディスプレイ等とすることもできる。秘匿すべき情報は、人のプライバシーに関する情報情報や個人情報が挙げられ、具体的には、人の顔、身体、服装、名札、名刺、個人名が掲載された掲示物等がある。また、秘匿すべき情報は、機密情報であってもよく、機械や設備の設計図面やプログラムコード等、またはその他の著作物が挙げられる。
非表示情報147は、非表示対象がカメラ61の撮像画像データに含まれるか否かを判定するための情報である。例えば、非表示情報147は、使用者U1の行動範囲、すなわちHMD1Aが使用される地理的範囲における非表示対象の位置を特定するデータである。この場合、非表示情報147は、マップデータ146と、マップ上における非表示対象の位置を示す情報とを含む情報であってもよいし、マップデータ146に対応付けられる情報であってもよい。例えば、非表示情報147は、特定のマップデータ146と組み合わせて使用される情報であってもよい。
非表示情報147が非表示対象の位置に係る情報を含む場合、HMD1A(特に、画像表示部20A)と非表示対象との相対位置、及び、非表示情報147に基づいて、カメラ61の撮像範囲に非表示対象が含まれるか否かを判定できる。さらに、非表示情報147は、カメラ61の撮像範囲における非表示対象の位置を特定可能な情報であることが好ましい。
制御部150が、上記のSLAM技術等によりマップデータ146を作成する場合、非表示情報147は、制御部150が作成したマップデータ146における非表示対象の位置を示す情報であってもよい。
また、制御部150は、マップデータ146において非表示対象の位置を特定する情報を生成してもよい。例えば、カメラ61の撮像画像データから非表示対象の外観の画像を検出するための情報を、非表示情報147として記憶部140に記憶している場合に、制御部150は、マップデータ146を生成する処理でカメラ61の撮像画像データから形状を検出する際に、非表示対象の外観を検出する。或いは、制御部150は、カメラ61の撮像画像データにより作成されたマップデータ146から、非表示対象の外観の画像を検出する。これにより、制御部150は、撮像画像データからの画像検出技術により、マップデータ146における非表示対象の特定を行える。制御部150は、非表示対象の位置に基づき、非表示領域を設定すればよい。
また、非表示情報147は、マップデータ146上で特定される位置から非表示対象を見る場合に、非表示対象の視認を妨げる障害物に関する情報を含んでもよい。障害物は、マップデータ146の範囲に設置される建物や建造物、壁、設備、機械、山や樹木などの自然物などが挙げられ、視認を妨げるものであれば限定されない。この場合、HMD1Aと非表示対象との相対位置、及び、非表示情報147に基づいて、カメラ61の含まれる非表示対象が視認可能か否かを判定できる。
また、非表示情報147は、非表示対象の位置に関する情報を含んでいなくてもよい。例えば、非表示情報147は、カメラ61の撮像画像データから非表示対象を検出するための情報であればよく、非表示対象の画像(非表示対象の外観の画像)の特徴量を含んでもよい。この場合、カメラ61の撮像画像データを解析し、例えばパターンマッチングにより、撮像画像データから非表示対象の画像を検出し、撮像画像データにおける非表示対象の画像の位置を特定できる。この場合、非表示情報147は、マップデータ146と対応付けられる必要がないので、記憶部140がマップデータ146を記憶していなくてもよい。また、非表示情報147は、マップデータ146と組み合わされる非表示対象の位置を示す情報と、非表示対象の画像の画像特徴量との両方を含んでもよい。また、非表示情報147は、非表示対象がテキスト(文字)を含む場合に、このテキストを示す情報を含んでもよい。この場合、非表示情報147は、カメラ61の撮像画像データに含まれる文字を認識し、認識した文字または文字列が、非表示情報147に含まれる文字と同一または類似する文字または文字列を含む場合に、これらの文字または文字列を非表示情報として検出する。
基本制御部151は、HMD1Aの各部を制御する基本機能を実行する。基本制御部151は、HMD1Aの電源がオンされたときに起動処理を実行し、HMD1Aの各部を初期化し、アプリケーション実行部159がアプリケーションプログラムを実行可能な状態にする。基本制御部151は、コントローラー10Aの電源をオフにする際のシャットダウン処理を実行し、アプリケーション実行部159を終了し、記憶部140が記憶する各種データを更新し、HMD1Aを停止させる。シャットダウン処理では画像表示部20Aに対する電源供給も停止し、HMD1A全体がシャットダウンされる。
基本制御部151は、電源部130による電源供給を制御する機能を有する。基本制御部151は、シャットダウン処理で、電源部130からHMD1Aの各部への電源供給を個別にオフに切り替える。
通信制御部152は、通信部117によるデータ通信を実行する。通信制御部152は、通信部117が備える通信機能を制御して、指定された通信先の機器との間でデータ通信を実行する。通信制御部152の機能により、基本制御部151及びアプリケーション実行部159は、他の装置との間でデータを送受信し、例えば受信したデータを利用できる。
画像処理部153は、画像表示部20Aにより表示する画像または映像の画像データに基づいて、右表示ユニット22及び左表示ユニット24に送信する信号を生成する。画像処理部153が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。画像処理部153は、必要に応じて、画像データの解像度を右表示ユニット22及び左表示ユニット24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部153は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部153は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、画像表示部20Aに送信する。
画像処理部153は、メインプロセッサー125がオペレーティングシステム141を実行して実現される構成のほか、メインプロセッサー125とは別のハードウェアで構成してもよい。このハードウェアとしては、例えば、DSP(Digital Signal Processor)が挙げられる。
表示制御部154は、右表示ユニット22及び左表示ユニット24を制御する制御信号を生成し、右表示ユニット22及び左表示ユニット24のそれぞれによる画像光の生成及び射出を制御する。例えば、表示制御部154は、OLEDパネルによる画像の表示を実行させ、OLEDパネルの描画タイミングの制御、輝度の制御等を行う。
撮像制御部155は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶部140に一時的に記憶する。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部155は撮像画像データをカメラ61から取得して、記憶部140に一時的に記憶する。
検出制御部156は、検出制御部156は、操作部170が出力する操作信号に基づき、使用者U1のHMD1Aに対する操作を検出する。また、検出制御部156は、HMD1Aが搭載する各種センサーの検出を制御する。検出制御部156は、FPGA194から入力される各種センサーの検出値を取得する。検出制御部156は、各種センサーの検出値に基づき、HMD1Aの周辺環境に関する検出を行ってもよい。例えば、検出制御部156は、カメラ61の撮像画像または照度センサー65の検出値から、HMD1Aの周辺の明るさを検出する。
検出制御部156は、使用者Uの視線方向を検出する。例えば、検出制御部156は、内側カメラ68の撮像画像から使用者Uの右眼RE及び左眼LEの各々の画像を検出する。具体的には、撮像画像から、右眼RE、左眼LEの瞳孔または眼球表面に反射する反射光を検出することにより、公知の技術を利用して視線方向を検出できる。視線検出部158は、カメラ61の撮像画像から、使用者Uの頭部の向きを検出することにより、使用者Uの視線方向を検出してもよい。また、カメラ61の撮像画像から検出される視線方向と、内側カメラ68の撮像画像から検出される視線方向との両方に基づき、視線方向を検出してもよい。視線検出部158が検出する視線方向は、右眼RE及び左眼LEの各々の向きであってもよいし、右眼REと左眼LEを合わせて、使用者Uが注視する方向であってもよい。
また、検出制御部156は、使用者U1のジェスチャー操作による操作を検出する。ジェスチャー操作は、アクションUI(ユーザーインターフェース)とも呼ばれ、使用者U1が指示体を動かす操作や指示体の形状を特定の形状とする操作であり、これらの操作をHMD1Aが光学的に検出する。指示体は、使用者U1の手、指、足などの身体の一部であるが、棒状やボール状のデバイスであってもよい。カメラ61の撮像範囲内でジェスチャー操作が行われた場合、カメラ61により操作される指示体を撮像できる。検出制御部156は、カメラ61の撮像画像データから、パターン認識処理等により指示体の画像を抽出し、抽出した画像から、指示体の形状、指示体の形状や位置の変化を求める。検出制御部156は、求めた指示体の形状、指示体の形状や位置の変化が、予め設定されたジェスチャー操作の態様に適合する場合に、操作を検出する。
位置検出部157(検出部)は、GPS115の検出値に基づきHMD1Aの現在位置を特定し、現在位置を示す位置情報を生成する。また、位置検出部157は、通信部117により、予め設定された位置に配置される無線アクセスポイント(図示略)や無線ビーコン(図示略)から無線信号を受信させ、受信信号に含まれるIDや受信強度に基づき、HMD1Aの位置を特定してもよい。また、位置検出部157は、カメラ61の撮像画像データを用いてHMD1Aの位置を特定してもよい。例えば、位置検出部157は、カメラ61の撮像画像データから、HMD1Aの行動範囲内に設置された位置検出用のマーカーの画像を検出し、検出したマーカーの画像の位置に基づき、マーカーと画像表示部20Aとの相対位置を求めてもよい。この場合、1または複数のマーカーと画像表示部20Aとの相対位置と、マーカーの設置位置とをもとに、画像表示部20Aの位置を特定できる。
また、位置検出部157は、距離センサー64により距離検出や領域検出を行った処理結果から位置を検出してもよい。また、HMD1Aが、位置検出用のエンコーダーを利用可能な構成である場合、エンコーダーによる検出結果を利用して自己位置を検出してもよい。また、位置検出部157は、マイク63により集音した音声に基づく位置検出を行ってもよい。
位置検出部157は、画像表示部20Aの方向を特定する。位置検出部157は、6軸センサー235、磁気センサー237、6軸センサー111、磁気センサー113の少なくともいずれかの検出値をもとに、画像表示部20Aが向いている方向を算出する。位置検出部157は、算出した方向と、画像表示部20Aとカメラ61の撮像範囲との既知の位置関係とに基づき、カメラ61の撮像範囲の方向を算出する。
非表示情報処理部158は、カメラ61の撮像画像データに非表示対象の画像が含まれ得る場合に、撮像画像データを加工する。非表示情報処理部158は、撮像画像データにおける非表示対象の画像の位置を特定し、非表示対象の画像を含む非表示領域を設定する。非表示情報処理部158は、非表示領域の明瞭度を低下させる処理を行う。この処理により、カメラ61の撮像画像データに含まれる非表示対象の外観の画像が、視認できないように、或いは視認しにくくなるように、処理される。カメラ61の撮像画像データは、非表示情報処理部158により処理された後で、サーバー200に送信される。このため、非表示対象が明瞭に写っている撮像画像データがサーバー200やHMD1B、1Cに送信されることがなく、非表示対象を保護できる。
また、非表示情報処理部158が撮像画像データを処理した場合、処理後の撮像画像データに基づき、画像表示部20が表示を行うようにしてもよい。例えば、画像表示部20がカメラ61の撮像画像データに基づく画像をリアルタイム(完全にリアルタイムでなくてもよく、遅延を含んでもよい)表示すれば、画像表示部20をバーチャルシースルー式の表示装置とすることができる。この構成において、非表示情報処理部158が処理した撮像画像データに基づく画像を画像表示部20が表示すれば、画像表示部20を装着する使用者Uも、非表示情報を視認しない。例えば、非表示対象を、使用者Uにも視認させないことが適切な場合に、非表示情報の機密性を保持できる。
非表示領域は、カメラ61の撮像画像データを非表示情報処理部158が処理する場合に、処理対象となる領域である。カメラ61の撮像画像データが平面(2D)画像である場合、非表示領域は、撮像画像データ中の領域であり、撮像画像データにおける座標で表現できる。また、非表示領域は、カメラ61の撮像範囲に対する位置や範囲として指定することもできる。この場合、非表示領域を示す情報は、カメラ61の光軸や画角に対する方向、カメラ61の撮像面からの距離、或いは相対位置とすることができる。また、非表示領域は、画像表示部20や、画像表示部20を装着する使用者Uの頭部の中心に対する相対的な位置や範囲であってもよい。この場合、カメラ61の撮像範囲や、使用者Uの視界を、画像表示部20や、画像表示部20を装着する使用者Uの頭部の中心に対する相対的な位置や範囲で表すデータを用いれば、カメラ61の撮像範囲と非表示領域との位置関係を特定できる。
非表示領域は、平面的な領域に限定されない。例えば、奥行を含む3D空間を非表示領域として設定してもよい。この場合、非表示領域を規定する情報は、画像表示部20を基準とする距離、及び/または画像表示部20の正面方向を基準とする方向(角度)等を採用できる。
アプリケーション実行部159は、メインプロセッサー125が、オペレーティングシステム141を実行する状態で、アプリケーションプログラム142を実行する機能に相当する。アプリケーション実行部159は、アプリケーションプログラム142を実行して、アプリケーションプログラム142の各種機能を実現する。アプリケーションプログラム142の機能は、例えば上に例示した通りである。アプリケーション実行部159は、アプリケーションプログラム142の実行中に、制御部150の各部の機能を利用する。
また、非表示情報処理部158は、通信制御部152の機能を利用して、サーバー200に対して非表示情報の送信を要求し、サーバー200から送信される非表示情報を受信して、記憶部140に非表示情報147として記憶させる。例えば、非表示情報処理部158は、位置検出部157により検出されたHMD1Aの位置に対応する非表示情報147が、記憶部140に記憶されていない場合に、サーバー200に対して、HMD1Aの位置に対応する非表示情報の送信を要求する。また、非表示情報処理部158は、非表示情報147を適切な状態に維持するため、予め設定された周期で、或いは、サーバー記憶部210に記憶された非表示情報の更新が通知された場合に、サーバー200に対し非表示情報の送信を要求してもよい。
また、非表示情報処理部158は、サーバー200に対し、非表示情報147を生成するもととなるマップデータの送信を要求し、サーバー200から送信されるマップデータを受信して、記憶部140にマップデータ146として記憶させる。
非表示情報処理部158は、非表示情報147を生成する機能を有する。この機能により、非表示情報処理部158は、記憶部140に記憶された非表示情報147に非表示対象に関する情報を追加して、非表示情報147を更新することができる。また、非表示情報処理部158は、サーバー200から取得したマップデータに、非表示対象の位置に関する情報を追加して、非表示情報147を生成し、記憶部140に記憶させてもよい。
[1−4.HMDの動作]
図6は、HMD1Aの動作を示すフローチャートであり、HMD1Aにより非表示情報147を生成する処理を示す。
制御部150は、非表示情報処理部158により、非表示情報147の生成処理を開始し(ステップS11)、マップデータ146を取得する(ステップS12)。ステップS12で、非表示情報処理部158は、記憶部140からマップデータ146を読み出してもよいし、サーバー200からマップデータを受信してもよい。例えば、非表示情報処理部158は、ステップS11の前に位置検出部157が検出したHMD1Aの位置に対応するマップデータを、サーバー200に要求して、サーバー200から受信してもよい。また、制御部150がSLAM処理を実行する場合、上述のように、マップデータ146として、HMD1Aが検出した自己位置を記録するためのテンプレート等を用いることができる。
制御部150は、位置検出部157により、位置検出を開始する(ステップS13)。位置検出部157は、HMD1Aの位置および/または画像表示部20Aの位置を検出するが、カメラ61の撮像範囲に関する処理を行うため、ステップS13では画像表示部20Aの位置を検出する。
ここで、使用者U1により、非表示対象を指定する操作が行われ、この操作を検出制御部156が検出する(ステップS14)。
非表示対象を指定する操作は、例えば、使用者U1が、画像表示部20Aを透過する視野における非表示対象の位置を指し示す操作である。HMD1Aが、操作パッド14の操作に対応してポインターを動かすGUIを提供する場合、使用者U1はポインターを動かして非表示対象を指定する。また、使用者U1は、ジェスチャー操作により非表示対象を指定してもよい。非表示対象の指定方法は、非表示対象の事物に重なる位置を指定する位置指定操作や、非表示対象の外縁を指定する領域指定操作等、適宜に設定できる。例えば、使用者U1は、画像表示部20Aを透過する視野において、非表示対象とする物体の周縁をなぞるジェスチャー操作を行い、検出制御部156は、ジェスチャー操作の操作位置を、画像表示部20Aに対する相対位置として検出する。
また、ステップS14で、非表示情報処理部158は、非表示対象に付されたマーカーをカメラ61の撮像画像データから検出することで、非表示対象の位置を特定してもよい。また、非表示情報処理部158は、位置検出を行える外部の電子デバイス(例えば、ジャイロリモコン)から送信される位置情報に基づき、非表示対象の位置を特定してもよい。
また、ステップS14で、非表示情報処理部158は、使用者U1の視線方向を検出し、視線方向に位置する物体または視線方向を中心とする所定範囲を、非表示対象として検出してもよい。
非表示情報処理部158は、ステップS14で指定された非表示対象について、HMD1Aに対する相対位置を検出する(ステップS15)。非表示情報処理部158は、画像表示部20Aに対する非表示対象の相対位置を検出してもよい。
非表示情報処理部158は、ステップS15で検出した位置に基づき、マップデータ146における非表示対象の位置を特定する(ステップS16)。ステップS16で、非表示情報処理部158は、非表示対象の位置と、非表示対象のサイズを特定してもよいし、非表示対象の外縁の位置を特定してもよい。非表示情報処理部158は、ステップS16で特定した位置に基づき非表示情報を生成し、非表示情報147として記憶部140に記憶させる(ステップS17)。
また、非表示情報処理部158は、ステップS17で生成した非表示情報を、サーバー200に送信してもよい(ステップS18)。ステップS18の処理は必須ではないが、例えば、複数のHMD1が非表示情報を共有できるという利点がある。例えば、HMD1BやHMD1Cがサーバー200から非表示情報をダウンロードすれば、HMD1Aが使用する非表示情報147と同じ非表示情報を利用できる。この機能は、サーバー200が、HMD1B、1Cが非表示情報を要求した場合に非表示情報を送信する機能を備えていれば実現できる。
図6の例は、非表示対象を使用者Uが指定した場合に(ステップS14)、非表示対象の位置を検出して、マップデータ146に非表示対象の位置を反映させる処理である。本発明はこれに限定されず、非表示対象の外観を、カメラ61の撮像画像データから検出するための情報を、非表示情報147として生成してもよい。
この場合、非表示情報処理部158は、ステップS16の処理に代えて、ステップS15で検出した位置に基づき、カメラ61の撮像画像データから非表示対象の外観の画像を抽出する。非表示情報処理部158は、抽出した画像から、非表示対象の外観の画像を検出するための非表示情報を生成する。例えば、非表示情報処理部158は、カメラ61の撮像画像データから抽出した画像の画像特徴量を求め、非表示情報としてもよい。また、非表示情報処理部158は、抽出した画像がテキスト(文字)を含む場合、テキストを認識し、認識したテキストデータを含む非表示情報を生成してもよい。
また、さらに別の動作例として、非表示情報処理部158は、ステップS15の処理に代えて、ステップS14で指定された非表示対象の外観の画像を、カメラ61の撮像画像データから抽出してもよい。すなわち、非表示対象の位置の検出を省略して、非表示対象の外観の画像を検出するための非表示情報を生成してもよい。この場合の非表示情報は、上述した例と同様の情報とすることができる。
図7は、HMD1Aの動作を示すフローチャートであり、HMD1Aがカメラ61により撮像を行い、撮像画像データをサーバー200に送信する一連の動作を示す。
制御部150は、非表示情報処理部158により、マップデータ146を取得し(ステップS31)、非表示情報147を取得する(ステップS32)。ここで、非表示情報処理部158は、サーバー200から非表示情報およびマップデータを取得してもよい。
制御部150は、撮像制御部155により、カメラ61を制御して撮像を開始させる(ステップS33)。撮像開始後は、カメラ61から制御部150に、撮像画像データが出力される。
制御部150は、位置検出部157により、HMD1Aの画像表示部20Aの位置を検出する(ステップS34)。制御部150は、非表示情報処理部158により、位置検出部157が検出した位置および非表示情報147に基づき、カメラ61の撮像範囲に非表示対象が含まれるか否かを判定する(ステップS35)。
カメラ61の撮像範囲に非表示対象が含まれると判定した場合(ステップS35;YES)、非表示情報処理部158は、撮像範囲における非表示対象の位置を特定する(ステップS36)。さらに、非表示情報処理部158は、カメラ61の撮像画像データにおいて、非表示対象の画像が含まれる非表示領域を特定する(ステップS37)。
非表示情報処理部158は、カメラ61の撮像画像データを取得し(ステップS38)、取得した撮像画像データに対し、ステップS37で特定した非表示領域の明瞭度を低下させるマスク処理を実行する(ステップS39)。カメラ61が動画像データを出力する場合、非表示情報処理部158は、動画像データを構成する各フレームに対してマスク処理を施す。
非表示情報処理部158は、ステップS39で処理された後の撮像画像データを、記憶部140に一時的に記憶させる(ステップS40)。
制御部150は、ステップS40で一時記憶された撮像画像データを、通信制御部152により、サーバー200に送信する(ステップS41)。カメラ61が出力する撮像画像データが動画像データであって、連続して出力される場合、制御部150は、所定時間毎に動画像データを区切ってステップS41の処理を実行してもよい。また、制御部150は、記憶部140の記憶領域の一部またはメモリー118にバッファーメモリーを形成し、ステップS40でバッファーメモリーに動画像データを一時記憶してもよい。この場合、制御部150は、一時記憶した動画像データをステップS41でストリーミング送信してもよい。
また、非表示情報処理部158は、カメラ61の撮像範囲に非表示対象がないと判定した場合(ステップS35;NO)、撮像画像データを取得し(ステップS43)、ステップS40に移行する。
制御部150は、操作部170に対する操作により停止が指示されたか否かを判定し(ステップS42)、停止が指示された場合は(ステップS42;YES)、本処理を終了する。また、停止が指示されない場合は(ステップS42;NO)、ステップS34に戻る。
ステップS35で、制御部150は、カメラ61の撮像範囲に非表示対象が含まれる階中を判定するものとしたが、非表示対象がカメラ61の撮像範囲の外であっても、ステップS36に移行してもよい。例えば、カメラ61の撮像範囲が非表示対象から所定範囲に接近した場合、または、カメラ61の撮像範囲が非表示対象に近づいている場合に、ステップS36に移行してもよい。これらの場合、カメラ61の撮像画像データに非表示対象の画像が含まれないので、非表示情報処理部158は、非表示領域として、撮像画像データにおいて非表示対象に近い側の端部を、非表示領域として特定してもよい。
図8は、カメラ61の撮像画像データに対する処理の説明図である。
図8において符号Aは、カメラ61の撮像画像データの一例として、撮像画像データ301を示し、符号Bは、撮像画像データ301に対しマスク処理を施した処理後画像データ311を示す。
撮像画像データ301は、一例として、工場において作業用車両を撮像したデータである。この例では、人の顔、及び、作業用車両により運搬される荷物が、非表示対象に設定される。制御部150は、撮像画像データ301から人の顔の画像を検出して、対応する非表示領域303を特定する。また、制御部150は、撮像画像データ301から作業用車両の画像を検出し、作業用車両の荷台に対応する非表示領域305を特定する。
制御部150は、非表示情報処理部158により、非表示領域303、305にマスク処理を行う。マスク処理は、非表示領域303、305に写っている被写体を判別できない程度に、明瞭度を低下させる処理である。
マスク処理で明瞭度を低下させる具体的な方法としては、次の(1)〜(3)が挙げられる。
(1)非表示領域にモザイク処理を施す方法。非表示情報処理部158は、非表示領域の画像をモザイク化する画像処理を行い、モザイクを含む撮像画像データを生成する。
(2)非表示領域を塗りつぶす方法。非表示情報処理部158は、非表示領域を予め設定された単色で塗りつぶす処理、或いは、設定された幾何学模様等を重畳する画像処理を行う。
(3)非表示領域を低解像度化する方法。制御部150は、撮像制御部155によりカメラ61を制御して、カメラ61により2通りの解像度で撮像を実行させる。一例として、カメラ61が、第1解像度(1920×1080)と、第2解像度(320×240)とで撮像を行うものとする。解像度の具体的な数値やアスペクト比は任意であり、第1解像度が第2解像度より高解像度であればよい。
この方法では、カメラ61は、第1解像度による撮像と、第2解像度による撮像とを交互に、或いは組み合わせて実行する。このため、カメラ61が動画像データを出力する場合、この動画像データを構成するフレームは、第1解像度のフレームと、第2解像度のフレームとを含む。好ましくは、第1解像度のフレームと、第2解像度のフレームとが、交互に、或いは、所定枚数ごとに、切り替わる。典型的な例として、30fpsの動画像データが、1秒あたり15枚の第1解像度のフレームと、15枚の第2解像度のフレームとを含む。
撮像制御部155は、カメラ61が撮像した撮像画像データのうち、第1解像度のフレームのみを含む動画像データを出力する。非表示情報処理部158は、撮像画像データに非表示領域を特定した後、第2解像度のフレームから非表示領域の画像を切り出し、切り出した画像を、第1解像度のフレームにおいて非表示領域の位置に重畳して合成する。ここで、第2解像度のフレームから切り出した非表示領域の画像の画素数は、第1解像度の非表示領域の画素数よりも少ないため、非表示情報処理部158は、切り出した画像の解像度を変換して、画像を合成する。この場合、非表示情報処理部158は、単純に画素数を所定倍する処理を行うことで、非表示領域の低解像度化を、軽い処理負荷で実現できる。非表示情報処理部158は、合成したフレームで構成される動画像データを、撮像画像データとして一時記憶する。
(3)の方法によれば、カメラ61により撮像された撮像画像データをほぼリアルタイムでサーバー200に送信する処理において、画像処理の負荷を抑え、大きな遅延を生じることなく動画像データを出力できる。この方法では、結果的に動画像データのデータ量が圧縮されるため、通常のリアルタイムデータ送信を行うよりもデータ量が少なく、かつ、プライバシー保護や機密情報保護が可能な動画像データを、リアルタイムに配信できる。撮像画像データが配信されるサーバー200、HMD1B、1C等の機器では、非表示領域以外を高解像度で再生することができる。また、非表示領域は情報量が少ないため、プライバシー保護や機密情報保護が実現される。さらに、(1)や(2)の方法に比べて、撮像画像データ全体における非表示領域が目立たず、使用者U2、U3に違和感を抱かせにくいという利点もある。
また、非表示情報処理部158は、上記(3)の方法で、撮像画像データ(動画像データのフレーム)が非表示対象の画像を含む場合に、高解像度のフレーム全体を、低解像度のフレームと置き換えてもよい。この方法を(4)とする。方法(4)によれば、フレーム全体の解像度が低下するが、動画像データを再生する装置が解像度を変換する処理を行うことができるので、非表示情報処理部158の処理負荷をより一層、軽減できる。また、方法(3)と同様に、非表示対象の画像を、違和感なく、明瞭度の低い画像とすることができる。
明瞭度を低下させる処理における「明瞭度」は、画像が使用者U1または他の人物に視認される際の明瞭度を指すが、これに限定されない。例えば、明瞭度の変化は、画像をコンピューターにより処理する際の処理結果の変化を招くような変化であってもよい。明瞭度を低下させる処理は、例えば、画像の解像度、輝度、明度、彩度、モザイク度等のいずれか1以上を変化させる処理であってもよい。また、画像に含まれる輪郭を不明瞭にする処理、いわゆるエッジ強調処理の逆に相当する処理、画像の階調を少なくする処理、コントラストを低下させる処理、シャープネスを低下させる処理、等であってもよい。また、明瞭度を低下させる処理では、撮像画像データの全部または一部において、特定の輝度や周波数範囲の信号を増大または低減させて、撮像画像データに含まれる画像の視認性や、画像の輪郭の視認性または明瞭度を低下させてもよい。これらの処理のうち2以上を組み合わせて、明瞭度を低下させる処理としてもよい。
また、制御部150は、照度センサー65またはカメラ61によりHMD1の使用環境の明るさを測定(検出)し、測定した明るさに応じて、カメラ61の撮像条件や、カメラ61の撮像画像データに対する処理のパラメーターを変化させてもよい。カメラ61の撮像条件は、ホワイトバランス、シャッター速度、シャッター開時間、オートフォーカス、絞り値等である。カメラ61の撮像条件を、撮像画像データを不明瞭にするよう変更または調整することで、明瞭度を低下させてもよい。また、カメラ61の撮像条件を、撮像画像データを明瞭にするよう変更または調整し、その後に、撮像画像データの明瞭度を低下させる処理を行ってもよい。
図8において、処理後画像データ311では、マスク処理された部分をハッチングで示しているが、実際には、(1)〜(3)の処理が施された状態である。
マスク処理が施された処理後画像データ311では、非表示領域303に対応する領域313、及び、非表示領域305に対応する領域315が、マスク処理によって明瞭度が低下した状態となっている。このため、プライバシー保護や機密情報の保護を確保した上で、HMD1Aから、カメラ61の撮像画像データをサーバー200やHMD1B、1Cに送信することができる。
図9は、HMD1Aの動作を示すフローチャートであり、上述した(3)の処理を示す。
撮像制御部155がカメラ61を制御することにより、カメラ61は、第1解像度で撮像を行い(ステップS61)、撮像画像データをバッファーに記憶する(ステップS62)。バッファーは、メモリー118や不揮発性記憶部121の記憶領域に形成することができる。カメラ61は、撮像制御部155の制御により、第2解像度で撮像を実行し(ステップS63)、撮像画像データをバッファーに記憶する(ステップS64)。
非表示情報処理部158は、撮像画像データに対しマスク処理を行うか否かを判定する(ステップS65)。マスク処理を行う場合(ステップS65)、非表示情報処理部158は非表示領域の位置やサイズの情報を取得し(ステップS66)、第2解像度で撮像したフレームから非表示領域の画像を切り出す(ステップS67)。非表示情報処理部158は、切り出した画像を、第1解像度で撮像したフレームに合成し(ステップS68)、合成したフレームをバッファーに記憶する(ステップS69)。非表示情報処理部158は、バッファーに記憶した動画像データを出力する(ステップS70)。
また、非表示情報処理部158は、マスク処理を行わないと判定した場合(ステップS65;NO)、ステップS70に移行する。
制御部150は、操作部170に対する操作により停止が指示されたか否かを判定し(ステップS71)、停止が指示された場合は(ステップS71;YES)、本処理を終了する。また、停止が指示されない場合は(ステップS71;NO)、ステップS61に戻る。
以上説明したように、本発明を適用したHMD1は、使用者の頭部に装着され、画像を表示する画像表示部20と、画像表示部20に設けられ、画像表示部20に対する所定方向の画像を撮像するカメラ61とを備える。HMD1は、カメラ61の撮像範囲における非表示領域を特定し、カメラ61の撮像画像データに対し非表示領域の明瞭度を低下させる処理を行い、処理後の撮像画像データを出力する制御部150を備える。
これにより、カメラ61の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
また、HMD1は、非表示対象を特定する非表示情報147を記憶する記憶部140を備える。制御部150は、非表示情報147に基づいて非表示領域を特定する。これにより、明瞭度を低下させる処理の対象である非表示領域を、記憶部140に記憶した非表示情報147に基づいて特定する。これにより、撮像すべきでない事物の画像を含む可能性のある非表示領域を、適切に特定できる。
また、制御部150は、カメラ61の撮像範囲において、カメラ61の撮像画像データに非表示対象の画像が含まれる領域を、非表示領域として特定する。このため、撮像画像データに非表示対象が写る領域を、明瞭度を低下させる処理の対象とし、撮像すべきでない事物の画像を適切に秘匿し、保護できる。
また、記憶部140が記憶する非表示情報147は、非表示対象の位置及び方向の少なくともいずれかを示す情報を含む。これにより、非表示対象の位置および/または方向を示す情報に基づき、カメラ61の撮像画像データにおいて、非表示領域を適切に特定できる。
また、非表示対象は、予め設定された物体であり、非表示情報147は、カメラ61の撮像画像データから非表示対象の外観を検出するための情報を含む。この場合、予め非表示対象として設定された物体の外観が撮像画像データに含まれる場合に、撮像画像データの非表示対象の明瞭度を低下させるので、非表示対象の視認を防止または抑制できる。
また、HMD1は、通信部117を備え、制御部150は、外部の装置であるサーバー200から通信部117によって非表示情報を受信し、記憶部140に記憶させる。これにより、撮像画像データの処理に適した非表示情報147を利用できる。
また、HMD1は、画像表示部20の位置を検出する位置検出部157を備える。制御部150は、位置検出部157の検出結果から画像表示部20の位置を特定し、画像表示部20の位置と非表示情報147とに基づいて、撮像画像データにおける非表示領域を検出する。これにより、撮像すべきでない事物の画像を含む可能性のある非表示領域を、画像表示部20の位置に対応して特定できる。このため、カメラ61が移動可能な構成において、撮像すべきでない事物の画像を含む可能性のある撮像画像を適切に利用できる。
また、HMD1は、画像表示部20が移動可能な範囲の少なくとも一部を含むマップデータ146を有し、制御部150は、マップデータ146における非表示領域を特定してもよく、この場合、マップデータ146を利用して非表示領域を容易に特定できる。
また、制御部150は、画像表示部20が移動可能な範囲のマップデータ146を作成し、作成したマップデータ146における非表示領域を特定してもよい。この場合、必要に応じてマップデータ146を作成し、このマップデータ146を利用して、非表示領域を容易に特定できる。
また、カメラ61は、第1撮像解像度で撮像した第1撮像画像データと、第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力する。制御部150は、上述した明瞭度を低下させる処理(3)で、第1撮像画像データにおける非表示領域を、第2撮像画像データで対応する領域の画像と置き換えて合成する。これにより、画像を部分的に置換する処理により、非表示領域の明瞭度を低下させることができる。
また、カメラ61は、第1撮像解像度で撮像した第1撮像画像データと、第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力する。制御部150は、上述した明瞭度を低下させる処理(4)で、非表示対象の画像を含む第1撮像画像データを第2撮像画像データと置き換える。これにより、画像を置換する処理により、非表示領域を含む撮像画像全体の明瞭度を低下させることができる。
また、HMD1は、操作を受け付ける操作部170を備える。制御部150は、操作部170が受け付けた操作により、カメラ61の撮像範囲において非表示対象が指定された場合に、指定された非表示対象の位置および方向の少なくともいずれかに基づいて、非表示情報147を生成する。これにより、操作に応じて非表示情報147を生成するので、撮像画像データにおいて明瞭度を低下させる処理の対象を適切に設定できる。
また、非表示領域は、平面的な領域に限定されない。例えば、奥行を含む3D空間を非表示領域として設定してもよい。この場合、マップデータ146において非表示領域を規定する情報は、画像表示部20を基準とする距離、及び/または画像表示部20の正面方向を基準とする方向(角度)等が挙げられる。この場合、HMD1は、画像表示部20を装着した使用者U1が移動する間にカメラ61により撮像された撮像画像データに基づき、使用者U1の移動中に、撮像対象までの距離及び/または使用者U1の移動速度に対応して、明瞭度を変化させる処理を行ってもよい。これにより、カメラ61の撮像画像データに含まれる画像のうち、画像表示部20から遠方に位置する物体や人の画像であって、撮像画像データにおける視認性が低い画像について、さらに明瞭度を低下させる処理を書略できる等の利点がある。
また、表示システム100は、HMD1と、サーバー200とを備える。サーバー200は、非表示対象を特定する非表示情報147を記憶するサーバー記憶部210と、サーバー記憶部210に記憶された非表示情報147をHMD1に送信するサーバー通信部220と、を備える。HMD1は、使用者の頭部に装着され、画像を表示する画像表示部20と、画像表示部20に設けられ、画像表示部20に対する所定方向の画像を撮像するカメラ61と、通信部117とを備える。また、HMD1は、通信部117によりサーバー200から受信される非表示情報147を記憶する記憶部140を備える。また、HMD1は、制御部150を備える。制御部150は、記憶部140に記憶された非表示情報147に基づいて、カメラ61の撮像範囲における非表示領域を特定し、カメラ61の撮像画像データに対し非表示領域の明瞭度を低下させる処理を行い、処理後の撮像画像データを出力する。これにより、HMD1によって、カメラ61の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。このため、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。また、HMD1はサーバー200から非表示情報147を受信できるため、撮像画像データの処理に適した非表示情報147を利用できる。これにより、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
[第2実施形態]
図10は、第2実施形態におけるHMD1Aの動作を示すフローチャートであり、HMD1Aがカメラ61により撮像を行い、撮像画像データをサーバー200に送信する一連の動作を示す。
第2実施形態における表示システム100およびHMD1Aの構成は、上記第1実施形態と同様であるため、構成について図示及び説明を省略する。
第2実施形態では、非表示情報147は、画像表示部20Aから非表示対象までの距離を示す情報を含む。
制御部150は、非表示情報処理部158により、マップデータ146を取得し(ステップS91)、非表示情報147を取得する(ステップS92)。ここで、非表示情報処理部158は、サーバー200から非表示情報およびマップデータを取得してもよい。
制御部150は、撮像制御部155により、カメラ61を制御して撮像を開始させる(ステップS93)。撮像開始後は、カメラ61から制御部150に、撮像画像データが出力される。
制御部150は、位置検出部157により、HMD1Aの画像表示部20Aの位置を検出する(ステップS94)。制御部150は、非表示情報処理部158により、位置検出部157が検出した位置および非表示情報147に基づき、カメラ61の撮像範囲に非表示対象が含まれるか否かを判定する(ステップS95)。
カメラ61の撮像範囲に非表示対象が含まれると判定した場合(ステップS95;YES)、非表示情報処理部158は、非表示情報147に含まれる距離の情報に基づいて、非表示領域を特定する(ステップS96)。具体的には、非表示情報処理部158は、画像表示部20Aから、カメラ61の撮像範囲に含まれる非表示対象までの距離を取得し、この距離よりも遠い領域が撮像される領域を、非表示領域とする。ステップS96では、非表示対象、及び、非表示対象よりも遠くに位置する事物と、それより画像表示部20Aの近くにある事物とが区分されることになる。
撮像制御部155は、ステップS97で特定された非表示領域に対応するカメラ61の撮像条件を設定する(ステップS98)。ステップS98で設定される撮像条件は、非表示領域が不明瞭な画像となるようにする撮像条件であり、詳細は後述する。
非表示情報処理部158は、カメラ61の撮像画像データを取得して、記憶部140に一時的に記憶させる(ステップS98)。
制御部150は、ステップS98で一時記憶された撮像画像データを、通信制御部152により、サーバー200に送信する(ステップS99)。カメラ61が出力する撮像画像データが動画像データであって、連続して出力される場合、制御部150は、所定時間毎に動画像データを区切ってステップS99の処理を実行してもよい。また、制御部150は、記憶部140の記憶領域の一部またはメモリー118にバッファーメモリーを形成し、ステップS100でバッファーメモリーに動画像データを一時記憶してもよい。この場合、制御部150は、一時記憶した動画像データをステップS101でストリーミング送信してもよい。
また、非表示情報処理部158は、カメラ61の撮像範囲に非表示対象がないと判定した場合(ステップS95;NO)、ステップS98に移行する。
制御部150は、操作部170に対する操作により停止が指示されたか否かを判定し(ステップS100)、停止が指示された場合は(ステップS100;YES)、本処理を終了する。また、停止が指示されない場合は(ステップS100;NO)、ステップS94に戻る。
ステップS95で、制御部150は、カメラ61の撮像範囲に非表示対象が含まれる階中を判定するものとしたが、非表示対象がカメラ61の撮像範囲の外であっても、ステップS96に移行してもよい。例えば、カメラ61の撮像範囲が非表示対象から所定範囲に接近した場合、または、カメラ61の撮像範囲が非表示対象に近づいている場合に、ステップS96に移行してもよい。これらの場合、カメラ61の撮像画像データに非表示対象の画像が含まれないので、非表示情報処理部158は、非表示領域として、撮像画像データにおいて非表示対象に近い側の端部を、非表示領域として特定してもよい。
ステップS97で設定される撮像条件は、カメラ61の焦点調整機能(オートフォーカス:AF)を使用し、非表示情報147が示す距離より遠い領域のピントがぼけるように設定される。
図11は、カメラ61の撮像画像データに対する処理の説明図である。
図11に示す撮像画像データ351は、画像表示部20Aからの距離が、設定された所定距離より近い領域353が明瞭に撮像される一方、所定距離より遠い領域355が、焦点が適切でない画像となっている。このように、遠方の焦点状態が適切でない状態を、背景ぼけとも呼ぶ。
図11に示すように背景ぼけを生じさせた撮像画像データ351は、画像表示部20Aに近い側が明瞭な画像であるため、例えば使用者U1が作業を行う場合に、作業対象物を撮像した撮像画像データをHMD1B、1Cに送信する際に有用である。また、領域355は不明瞭であるため、非表示対象に関する情報が欠落しており、非表示対象の秘匿性を維持できる。
背景ぼけを生じさせる構成は、AF機能による調整のほか、カメラ61の絞り値(いわゆるF値)を設定する絞り調整によっても実現できる。また、複数のカメラ61を搭載し、これら複数のカメラ61の撮像画像データを合成して1つのカメラによる撮像画像データを得る構成として、各カメラ61の撮像画像データの合成状態を調整し、絞り値に対応する背景ぼけを実現してもよい。
また、別の例として、非表示領域の画像を、非表示情報処理部158が画像処理によって不明瞭にする構成であってもよい。
非表示情報147は、画像表示部20Aから非表示対象までの正確な距離を含んでいなくてもよく、例えば、50cm、1m、2m等の理解しやすい単位で区切られてもよく、使用者U1が操作部170の操作により指定してもよい。
このように、第2実施形態のHMD1によれば、記憶部140が記憶する非表示情報147は、非表示対象のカメラ61からの距離を指定する情報を含む。これにより、カメラ61からの距離を基準として、非表示領域を適切に特定できる。
また、制御部150は、非表示領域の明瞭度を低下させる処理において、カメラ61の撮像条件を制御してカメラ61に撮像を実行させ、明瞭度が異なる部分を有する撮像画像データを生成させる。これにより、カメラ61が撮像する条件を制御することで撮像画像データの明瞭度を低下させるので、撮像画像データの画像処理を簡易化、或いは省略できる。このため、処理負荷を軽減できる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者Uの左眼に対応して画像を表示する表示部と、使用者Uの右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者Uの身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
さらに、コントローラー10と画像表示部20とが一体に構成され、使用者Uの頭部に装着される構成とすることも可能である。また、コントローラー10として、ノート型コンピューター、タブレット型コンピューター、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、上記実施形態では、画像表示部20とコントローラー10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明したが、コントローラー10と画像表示部20とが無線通信回線によって接続される構成であってもよい。
また、画像光を使用者U1の眼に導く光学系として、右導光板26及び左導光板28は、ハーフミラーを用いてもよいし、回折格子、プリズム等を用いてもよい。また、画像表示部20は、ホログラフィー表示部を用いてもよい。
また、上記各実施形態では、画像表示部20はOLEDユニット221、241により画像光を生成する構成として説明したが、本発明はこれに限定されない。OLEDユニット221、241は、OLEDパネルと、OLEDパネルを駆動するOLED駆動回路とを有する構成を例示した。ここで、OLEDパネルは、有機エレクトロルミネッセンスにより発光しそれぞれ発する発光素子により構成される自発光型の表示パネルである。より具体的な例として、OLEDパネルは、R、G、Bの素子を1個ずつ含む単位を1画素とした複数の画素が、マトリクス状に配置された構成が挙げられる。変形例として、右表示ユニット22及び左表示ユニット24が、それぞれ、光源部としてのOLEDパネルと、光源部が発する光を変調して複数の色光を含む画像光を出力する変調素子と、を備える映像素子として構成されてもよい。このように、右表示ユニット22、左表示ユニット24は、変調素子により変調された画像光を、投写光学系および導光板等を利用してユーザーの眼に導くことにより、ユーザーに虚像を認識させる構成とすることができる。この変形例の画像表示部において、OLEDパネルが発する光を変調する変調装置は、透過型液晶パネルを用いてもよいし、透過型液晶パネルに代えて反射型液晶パネルを用いてもよいし、デジタル・マイクロミラー・デバイスを用いてもよい。光源はレーザー光源であってもよいし、LEDであってもよい。また、画像表示部20は、例えば、レーザースキャン方式のレーザー網膜投影型のHMDとしてもよい。
また、ブロック図に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部150が実行するプログラムは、不揮発性記憶部121またはコントローラー10内の他の記憶装置(図示略)に記憶されてもよい。また、外部の装置に記憶されたプログラムをUSBコネクター19、通信部117、外部メモリーインターフェイス186などを介して取得して実行する構成としてもよい。また、コントローラー10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、メインプロセッサー125と同様のプロセッサーが画像表示部20に配置されてもよいし、コントローラー10が備えるメインプロセッサー125と画像表示部20のプロセッサーとが別々に分けられた機能を実行する構成としてもよい。
1、1A、1B、1C…HMD(頭部装着型表示装置)、10、10A、10B、10C…コントローラー、11…本体、12…ホイール操作部、13…中央キー、14…操作パッド、15…上下キー、17…LED表示部、18…電源スイッチ、19…USBコネクター、20、20A、20B、20C…画像表示部(表示部)、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、42…コネクター、46…オーディオコネクター、61…カメラ(撮像部)、63…マイク、64…距離センサー、65…照度センサー、67…LEDインジケーター、68…内側カメラ、69…温度センサー、100…表示システム、111…6軸センサー、113…磁気センサー、115…GPS、117…通信部、118…メモリー、120…コントローラー基板、121…不揮発性記憶部、125…メインプロセッサー、140…記憶部、146…マップデータ、150…制御部、152…通信制御部、153…画像処理部、155…撮像制御部、156…検出制御部、157…位置検出部、158…視線検出部、170…操作部、172…タッチセンサー、174…スイッチ、176…バイブレーター、180…音声コーデック、182…音声インターフェイス、186…外部メモリーインターフェイス、192…センサーハブ、194…FPGA、200…サーバー、210…サーバー記憶部、220…サーバー通信部(送信部)、221…OLEDユニット、235…6軸センサー、237…磁気センサー、239…温度センサー、241…OLEDユニット、301…撮像画像データ、311…処理後画像データ、313、315…領域、351…撮像画像データ、353、355…領域、C…画角、U、U1、U2、U3…使用者。

Claims (16)

  1. 使用者の頭部に装着され、画像を表示する表示部と、
    前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、
    前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、
    を備える頭部装着型表示装置。
  2. 非表示対象を特定する非表示情報を記憶する記憶部を備え、
    前記制御部は、前記非表示情報に基づいて前記非表示領域を特定する、請求項1記載の頭部装着型表示装置。
  3. 前記制御部は、前記撮像部の撮像範囲において、前記撮像部の撮像画像データに前記非表示対象の画像が含まれる領域を、前記非表示領域として特定する、請求項2記載の頭部装着型表示装置。
  4. 前記記憶部が記憶する前記非表示情報は、前記非表示対象の位置及び方向の少なくともいずれかを示す情報を含む、請求項2または3記載の頭部装着型表示装置。
  5. 前記記憶部が記憶する前記非表示情報は、前記非表示対象の前記撮像部からの距離を指定する情報を含む、請求項2または3記載の頭部装着型表示装置。
  6. 前記非表示対象は、予め設定された物体であり、
    前記記憶部が記憶する前記非表示情報は、前記撮像部の撮像画像データから前記非表示対象の外観を検出するための情報を含む、請求項2または3記載の頭部装着型表示装置。
  7. 通信部を備え、
    前記制御部は、外部の装置から前記通信部によって前記非表示情報を受信し、前記記憶部に記憶させる、請求項2から6のいずれか1項に記載の頭部装着型表示装置。
  8. 前記表示部の位置を検出する検出部を備え、
    前記制御部は、前記検出部の検出結果から前記表示部の位置を特定し、前記表示部の位置と前記非表示情報とに基づいて、前記撮像画像データにおける前記非表示領域を検出する、請求項1から7のいずれか1項に記載の頭部装着型表示装置。
  9. 前記表示部が移動可能な範囲の少なくとも一部を含むマップデータを有し、
    前記制御部は、前記マップデータにおける前記非表示領域を特定する、請求項1から8のいずれか1項に記載の頭部装着型表示装置。
  10. 前記制御部は、前記表示部が移動可能な範囲の前記マップデータを作成し、作成した前記マップデータにおける前記非表示領域を特定する、請求項9記載の頭部装着型表示装置。
  11. 前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、
    前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記第1撮像画像データにおける前記非表示領域を、前記第2撮像画像データで対応する領域の画像と置き換える、請求項1から10のいずれか1項に記載の頭部装着型表示装置。
  12. 前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、
    前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記非表示対象の画像を含む前記第1撮像画像データを前記第2撮像画像データと置き換える、請求項1から10のいずれか1項に記載の頭部装着型表示装置。
  13. 前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記撮像部の撮像条件を制御して前記撮像部に撮像を実行させ、明瞭度が異なる部分を有する撮像画像データを生成させる、請求項1から10のいずれか1項に記載の頭部装着型表示装置。
  14. 操作を受け付ける操作部を備え、
    前記制御部は、前記操作部が受け付けた操作により、前記撮像部の撮像範囲において前記非表示対象が指定された場合に、指定された前記非表示対象の位置および方向の少なくともいずれかに基づいて、前記非表示情報を生成する、請求項2から5のいずれか1項に記載の頭部装着型表示装置。
  15. 頭部装着型表示装置と、サーバーとを備え、
    前記サーバーは、
    非表示対象を特定する非表示情報を記憶するサーバー記憶部と、
    前記サーバー記憶部に記憶された前記非表示情報を前記頭部装着型表示装置に送信する送信部と、を備え、
    前記頭部装着型表示装置は、
    使用者の頭部に装着され、画像を表示する表示部と、
    前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、
    通信部と、
    前記通信部により前記サーバーから受信される前記非表示情報を記憶する記憶部と、
    前記記憶部に記憶された前記非表示情報に基づいて、前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、を備える、
    表示システム。
  16. 使用者の頭部に装着され、画像を表示する表示部を備える頭部装着型表示装置の制御方法であって、
    前記表示部に設けられる撮像部によって、前記表示部に対する所定方向の画像を撮像し、
    前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する、
    頭部装着型表示装置の制御方法。
JP2018006080A 2018-01-18 2018-01-18 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 Active JP7047394B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018006080A JP7047394B2 (ja) 2018-01-18 2018-01-18 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法
CN201910038527.6A CN110060614B (zh) 2018-01-18 2019-01-16 头部佩戴型显示装置及其控制方法、显示系统
US16/249,996 US11178344B2 (en) 2018-01-18 2019-01-17 Head-mounted display apparatus, display system, and method of controlling head-mounted display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018006080A JP7047394B2 (ja) 2018-01-18 2018-01-18 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2019124849A true JP2019124849A (ja) 2019-07-25
JP7047394B2 JP7047394B2 (ja) 2022-04-05

Family

ID=67214449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018006080A Active JP7047394B2 (ja) 2018-01-18 2018-01-18 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法

Country Status (3)

Country Link
US (1) US11178344B2 (ja)
JP (1) JP7047394B2 (ja)
CN (1) CN110060614B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023210195A1 (ja) * 2022-04-28 2023-11-02 株式会社Nttドコモ 特定システム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7134784B2 (ja) * 2018-08-20 2022-09-12 株式会社東芝 監視システム、監視方法、およびプログラム
US10937191B2 (en) * 2018-10-23 2021-03-02 Dell Products, Lp Predictive simultaneous localization and mapping system using prior user session positional information
JP2020135306A (ja) * 2019-02-18 2020-08-31 セイコーエプソン株式会社 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法
JP2021162607A (ja) * 2020-03-30 2021-10-11 セイコーエプソン株式会社 表示システム、情報処理装置及び表示システムの表示制御方法
US11914835B2 (en) 2020-11-16 2024-02-27 Samsung Electronics Co., Ltd. Method for displaying user interface and electronic device therefor
JP2022144581A (ja) * 2021-03-19 2022-10-03 セイコーエプソン株式会社 表示システム、表示装置及び表示装置の制御方法
DE102021109082A1 (de) 2021-04-12 2022-10-13 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Posenbestimmung in einer Datenbrille
WO2023163799A1 (en) * 2022-02-23 2023-08-31 Qualcomm Incorporated Foveated sensing

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217161A (ja) * 2005-02-02 2006-08-17 Advanced Telecommunication Research Institute International 画像撮影システム
US20080024390A1 (en) * 2006-07-31 2008-01-31 Henry Harlyn Baker Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system
JP2008236141A (ja) * 2007-03-19 2008-10-02 Sony Corp 画像処理装置、画像処理方法
US20080316328A1 (en) * 2005-12-27 2008-12-25 Fotonation Ireland Limited Foreground/background separation using reference images
WO2009001530A1 (ja) * 2007-06-22 2008-12-31 Panasonic Corporation カメラ装置、および、撮影方法
JP2014212473A (ja) * 2013-04-19 2014-11-13 株式会社ニコン 通信装置、及び頭部装着表示装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002142214A (ja) 2000-11-02 2002-05-17 Matsushita Electric Ind Co Ltd 映像監視システム
US9122053B2 (en) * 2010-10-15 2015-09-01 Microsoft Technology Licensing, Llc Realistic occlusion for a head mounted augmented reality display
US8823798B2 (en) * 2011-12-23 2014-09-02 Xerox Corporation Obscuring identification information in an image of a vehicle
US9124762B2 (en) * 2012-12-20 2015-09-01 Microsoft Technology Licensing, Llc Privacy camera
US9460340B2 (en) * 2014-01-31 2016-10-04 Google Inc. Self-initiated change of appearance for subjects in video and images
US9571785B2 (en) * 2014-04-11 2017-02-14 International Business Machines Corporation System and method for fine-grained control of privacy from image and video recording devices
KR101990368B1 (ko) * 2014-05-07 2019-09-30 한화테크윈 주식회사 감시 카메라 및 감시 시스템
JP6367102B2 (ja) * 2014-12-09 2018-08-01 株式会社キーエンス 監視システム
JP6481456B2 (ja) * 2015-03-26 2019-03-13 富士通株式会社 表示制御方法、表示制御プログラム、及び情報処理装置
US10102758B1 (en) * 2017-05-02 2018-10-16 Here Global B.V. Method and apparatus for privacy-sensitive routing of an aerial drone
US10740617B2 (en) * 2017-12-19 2020-08-11 Intel Corporation Protection and recovery of identities in surveillance camera environments

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217161A (ja) * 2005-02-02 2006-08-17 Advanced Telecommunication Research Institute International 画像撮影システム
US20080316328A1 (en) * 2005-12-27 2008-12-25 Fotonation Ireland Limited Foreground/background separation using reference images
US20080024390A1 (en) * 2006-07-31 2008-01-31 Henry Harlyn Baker Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system
JP2008236141A (ja) * 2007-03-19 2008-10-02 Sony Corp 画像処理装置、画像処理方法
WO2009001530A1 (ja) * 2007-06-22 2008-12-31 Panasonic Corporation カメラ装置、および、撮影方法
JP2014212473A (ja) * 2013-04-19 2014-11-13 株式会社ニコン 通信装置、及び頭部装着表示装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023210195A1 (ja) * 2022-04-28 2023-11-02 株式会社Nttドコモ 特定システム

Also Published As

Publication number Publication date
CN110060614B (zh) 2022-08-09
US20190222774A1 (en) 2019-07-18
US11178344B2 (en) 2021-11-16
JP7047394B2 (ja) 2022-04-05
CN110060614A (zh) 2019-07-26

Similar Documents

Publication Publication Date Title
JP7047394B2 (ja) 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法
US11231897B2 (en) Display system, display device, information display method, and program
US10785472B2 (en) Display apparatus and method for controlling display apparatus
US11536964B2 (en) Head-mounted display apparatus, display control method, and computer program
JP6391685B2 (ja) 仮想オブジェクトの方向付け及び可視化
US10838205B2 (en) Head mounted display, control method thereof, and computer program
CN108535868B (zh) 头部佩戴型显示装置及其控制方法
US10949055B2 (en) Display system, display apparatus, control method for display apparatus
JP2018141824A (ja) 表示装置、及び、表示装置の制御方法
CN109960039B (zh) 显示系统、电子设备以及显示方法
CN109960481B (zh) 显示系统及其控制方法
US20170289533A1 (en) Head mounted display, control method thereof, and computer program
US20220174260A1 (en) Utilizing dual cameras for continuous camera capture
JP6590050B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
JP2019164420A (ja) 透過型頭部装着型表示装置および透過型頭部装着型表示装置の制御方法、透過型頭部装着型表示装置の制御のためのコンピュータープログラム
JP2018142764A (ja) 表示システム、表示装置、及び、表示装置の制御方法
US11589024B2 (en) Multi-dimensional rendering
JP2017134630A (ja) 表示装置、表示装置の制御方法、及び、プログラム
US20220373796A1 (en) Extended field-of-view capture of augmented reality experiences
US20220279151A1 (en) Projector with field lens
JP2019114236A (ja) 表示システム、電子機器、及び、表示方法
CN112053444A (zh) 基于光通信装置叠加虚拟对象的方法和相应的电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220307

R150 Certificate of patent or registration of utility model

Ref document number: 7047394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150