JP2017130210A - 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 - Google Patents
頭部装着型表示装置、および、頭部装着型表示装置の制御方法 Download PDFInfo
- Publication number
- JP2017130210A JP2017130210A JP2017026506A JP2017026506A JP2017130210A JP 2017130210 A JP2017130210 A JP 2017130210A JP 2017026506 A JP2017026506 A JP 2017026506A JP 2017026506 A JP2017026506 A JP 2017026506A JP 2017130210 A JP2017130210 A JP 2017130210A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- user
- image
- head
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【解決手段】透過型の頭部装着型表示装置は、外景を撮像する撮像部と、使用者の眼から所定の距離の使用者の視線を遮る遮蔽物を検出する検出部と、遮蔽物の検出結果に基づいて撮像部の操作を行なう撮像操作部と、使用者の頭部に装着された状態において、撮像される外景の全部または一部の領域を示す画像光である領域画像光を生成して領域画像光を使用者に視認させる共に、外景を透過させる画像表示部と、を備える。
【選択図】図10
Description
A.実施形態:
A−1.頭部装着型表示装置の構成:
A−2.撮像画像表示処理:
B.変形例:
A−1.頭部装着型表示装置の構成:
図1は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
図5および図6は、撮像画像表示処理の流れを示す説明図である。撮像画像表示処理では、予め定められた使用者のまぶたの状態が検出されると、画像表示部20の表示モードを、使用者がまぶたの状態に基づいて外景を撮像できる撮像調整モードへと移行する。
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
図15は、撮像調整モードにおいて使用者が視認する視野VRの一例を示す説明図である。図15には、使用者が右へ首を傾けた状態、すなわち、使用者の頭部の向きが重力方向に対して傾いて水平面となす角度が90度未満の状態において、使用者が視認する視野VRが示されている。図15に示す撮像画像VI2には、外景撮像カメラ61の光軸が重力方向と直交する水平面に平行な軸とした場合に、撮像される外景画像が示されている。この変形例では、方向判定部161および9軸センサー66が使用者の頭部の向きを推定して、方向判定部161は、推定した頭部の向きと重力方向とがなす角度を算出する。方向判定部161が算出した角度が所定の角度以上である場合には、撮像設定部175は、算出された角度の分だけ補正して、画像表示部20が表示する撮像画像VI2を表示する。なお、重力方向または水平面と使用者の頭部の向きとがなす角度については、図15に示す例に限られず、種々変形可能である。例えば、使用者が上下に首を所定の角度以上に傾けた状態が検出された場合に、撮像画像VI2に表示される画像が補正されてもよい。なお、撮像画像VI2は、算出された角度の分だけ補正された外景画像であるが、角度の補正が行われずに、算出された角度に基づいて外景撮像カメラ61が画像表示部20に対して向きを変更して、水平面に平行な軸を光軸として外景撮像カメラ61が外景SCを撮像してもよい。
また、上記実施形態では、眼撮像カメラ37,38が検出したまぶたの開閉状態に基づいて、画像表示部20の表示モードの設定、および、撮像される外景SCにおける一部の領域の設定等の操作が行なわれたが、これらの操作は、まぶたの開閉状態以外の使用者の視線方向を遮る遮蔽物の検出結果によって行なわれてもよい。例えば、使用者の両まぶたが開いている状態であっても、使用者が視認する外景SCの色や照度に基づいて、画像表示部20および外景撮像カメラ61の操作が行なわれてもよい。この変形例では、照度センサー45,47が使用者の右眼および左眼に視認されると想定される外景SCの照度を検出し、検出された照度の数値に基づいて操作が行なわれる。使用者がまぶたを閉じなくても、例えば、使用者の手によって左光学像表示部28の表面が覆われると、左眼照度センサー47に検出される照度の数値が右眼照度センサー45に検出される照度の数値に比べて小さくなる。この場合に、照度処理部145は、上記実施形態における画像判定部142が左まぶたを閉じた状態と同じ判定をして、撮像設定部175が当該判定に基づいて画像表示部20および外景撮像カメラ61の操作を行なう。また、照度センサー45,47が一定期間における照度の検出を行ない、照度処理部145が2つの時点における照度の差を比較することで、上記実施形態におけるまぶたの開閉状態に代えて、画像表示部20および外景撮像カメラ61の操作が行なわれてもよい。
また、上記実施形態では、画像表示部20の表示モードが撮像領域固定モードの場合に、撮像される外景SCに含まれる一部の領域が特定される態様としたが、画像判定部142が特定の対象を認識して、認識された特定の対象を外景撮像カメラ61が追尾して撮像する態様であってもよい。この変形例では、撮像される外景SCに含まれる特定の対象がまぶたの状態や視線方向に基づいて選択されると、画像判定部142が特定の対象物を認識する。画像判定部142は、一定期間撮像された外景画像の内から、複数の時点において、外景画像における特定の対象物の変化を算出することで、算出された変化に基づいて特定の対象物を特定する。その後、撮像される外景SCに特定の対象物が含まれる場合には、撮像設定部175は、特定の対象物を含む外景SCの一部の領域を設定する。外景撮像カメラ61は、画像表示部20に対して向きを変更し、設定された一部の領域を撮像し、画像表示部20が特定の対象物を含む外景SCを表示する。また、例えば、認識された特定の対象物の移動速度が急に大きくなって、撮像される外景SCに特定の対象物が含まれなくなった場合には、撮像設定部175は、撮像される外景SCに特定の対象物が含まれていたときの特定の対象物の移動変化に基づいて、特定の対象物の位置を推定する。外景撮像カメラ61は、推定された特定の対象物の位置へと撮像する向きを変更して撮像する。
また、上記実施形態では、外景撮像カメラ61は、外景SCを撮像した外景画像を保存するとしたが、撮像するのは特定の時点における静止画の画像に限られず、動画であってもよい。検出されたまぶたの開閉状態および推定された使用者の視線方向に基づいて、画像表示部20のモードが、画像を撮像するモードと、動画を録画するモードと、に変更される態様であってもよい。
また、外景撮像カメラ61は、制御部10に配置されてもよいし、制御部10や画像表示部20とは別体で、例えば、使用者が装着するヘルメットの上部等に配置されてもよい。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、例えば、画像生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。レーザー網膜投影型の場合、「画像光生成部における画像光の射出可能領域」とは、使用者の眼に認識される画像領域として定義することができる。
上記実施形態における頭部装着型表示装置100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
11…決定キー
12…点灯部
13…表示切替キー
14…トラックパッド
15…輝度切替キー
16…方向キー
17…メニューキー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
36…トラックパッド
37…右眼撮像カメラ(検出部、視線方向推定部)
38…左眼撮像カメラ(検出部、視線方向推定部)
40…接続部
42…右コード
44…左コード
45…右眼照度センサー(検出部)
46…連結部材
47…左眼照度センサー(検出部)
48…本体コード
51,52…送信部
53,54…受信部
61…外景撮像カメラ(撮像部)
66…9軸センサー(向き検出部)
100…頭部装着型表示装置
110…入力情報取得部
120…記憶部
130…電源
135…操作受付部
140…CPU
142…画像判定部(検出部、視線方向推定部、画像認識部)
145…照度処理部
150…オペレーティングシステム
160…画像処理部
161…方向判定部(向き検出部)
170…音声処理部
175…撮像設定部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
VSync…垂直同期信号
HSync…水平同期信号
PCLK…クロック信号
Data…画像データ
IMG1,IMG2…撮像画像
IA…画像範囲外枠
OB…ヨット
SC…外景
RE…右眼
LE…左眼
RL…右まぶた
LL…左まぶた
EL,ER…端部
IL…照明光
PL…画像光
PN…最大画像表示領域
AP…先端部
VR…視野
VI1,VI2…撮像画像
PO1,PO2…ポインター
Claims (10)
- 透過型の頭部装着型表示装置であって、
外景を撮像する撮像部と、
使用者の眼から所定の距離の使用者の視線を遮る遮蔽物を検出する検出部と、
前記遮蔽物の検出結果に基づいて前記撮像部の操作を行なう撮像操作部と、
使用者の頭部に装着された状態において、撮像領域を示す画像光である領域画像光を生成して前記領域画像光を使用者に視認させる共に、外景を透過させる画像表示部と、を備える、頭部装着型表示装置。 - 請求項1に記載の頭部装着型表示装置であって、
前記検出部は、前記遮蔽物としての使用者のまぶたの状態を検出し、
前記撮像操作部は、検出された前記まぶたの状態に基づいて前記操作を行なう、頭部装着型表示装置。 - 請求項2に記載の頭部装着型表示装置であって、
前記検出部は、使用者の右まぶたの開閉状態と左まぶたの開閉状態とを検出し、
前記撮像操作部は、検出された前記右まぶたの開閉状態と前記左まぶたの開閉状態との組み合わせに基づいて前記操作を行なう、頭部装着型表示装置。 - 請求項3に記載の頭部装着型表示装置であって、さらに、
使用者の視線方向を推定する視線方向推定部を備え、
前記画像表示部は、撮像される外景に対する前記視線方向に対応した位置を表わす画像光である視線位置画像光を生成して前記視線位置画像光を使用者に視認させ、
前記撮像操作部は、推定された前記視線方向と前記組み合わせとに基づいて、撮像される外景の一部の領域を設定し、
前記領域画像光は、設定された前記一部の領域を示す画像光である、頭部装着型表示装置。 - 請求項4に記載の頭部装着型表示装置であって、
前記操作は、前記撮像部のレンズの焦点距離の調整を含み、
前記領域画像光は、前記焦点距離が所定の距離に含まれる場合には、前記領域画像光を前記一部の領域における周辺部分に生成し、前記焦点距離が前記所定の距離に含まれない場合には、前記領域画像光を前記一部の領域の外景画像を表わす外景画像光を生成する、頭部装着型表示装置。 - 請求項1から請求項5までのいずれか一項に記載の頭部装着型表示装置であって、
前記検出部は、使用者の右眼と左眼とのそれぞれから前記所定の距離までの範囲における色または照度の少なくとも一方を示す右眼前指標値と左眼前指標値とを検出し、
前記撮像操作部は、検出された前記右眼前指標値と前記左眼前指標値とに基づいて前記操作を行なう、頭部装着型表示装置。 - 請求項1から請求項6までのいずれか一項に記載の頭部装着型表示装置であって、さらに、
前記操作に基づいて、撮像される外景に含まれる特定の対象を認識する画像認識部を備え、
前記撮像操作部は、撮像される外景に前記特定の対象が認識される場合には、前記特定の対象に基づいて、撮像される外景の一部の領域を設定し、
前記外景画像光は、設定された前記一部の領域を表わす画像光である、頭部装着型表示装置。 - 請求項7に記載の頭部装着型表示装置であって、
前記撮像操作部は、撮像される外景に前記特定の対象が認識されない場合には、撮像される外景に前記特定の対象が認識されているときの前記特定の対象の位置の変化に基づいて、前記撮像部から前記特定の対象までの方向を推定し、
前記撮像部は、推定された方向を撮像する、頭部装着型表示装置。 - 請求項1から請求項7までのいずれか一項に記載の頭部装着型表示装置であって、さらに、
重力方向に対する使用者の頭部の向きを検出する向き検出部を備え、
検出された前記頭部の向きと前記重力方向とがなす角度が所定値以上である場合に、前記角度に基づいて、前記領域画像光を、前記重力方向に直交する水平面に平行な軸を光軸として撮像される外景の全部または一部の領域を示す画像光として生成する、頭部装着型表示装置。 - 外景を撮像する撮像部と、使用者の眼から所定の距離までの範囲に存在し、想定される使用者の視線を遮る遮蔽物を検出する検出部と、使用者の頭部に装着された状態において、撮像される外景の全部または一部の領域を示す画像光である領域画像光を生成して前記領域画像光を使用者に視認させる共に、外景を透過させる画像表示部と、を備える、透過型の頭部装着型表示装置の制御方法であって、
前記遮蔽物の検出結果に基づいて前記撮像部の操作を行なう工程を備える、制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017026506A JP6304415B2 (ja) | 2017-02-16 | 2017-02-16 | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017026506A JP6304415B2 (ja) | 2017-02-16 | 2017-02-16 | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013063599A Division JP6094305B2 (ja) | 2013-03-25 | 2013-03-26 | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017130210A true JP2017130210A (ja) | 2017-07-27 |
JP6304415B2 JP6304415B2 (ja) | 2018-04-04 |
Family
ID=59396327
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017026506A Active JP6304415B2 (ja) | 2017-02-16 | 2017-02-16 | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6304415B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109064397A (zh) * | 2018-07-04 | 2018-12-21 | 广州希脉创新科技有限公司 | 一种基于摄像耳机的图像拼接方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11164186A (ja) * | 1997-11-27 | 1999-06-18 | Fuji Photo Film Co Ltd | 画像記録装置 |
JP2005172851A (ja) * | 2003-12-05 | 2005-06-30 | Sony Corp | 画像表示装置 |
JP2005223749A (ja) * | 2004-02-06 | 2005-08-18 | Olympus Corp | 頭部装着型カメラ |
US20100013739A1 (en) * | 2006-09-08 | 2010-01-21 | Sony Corporation | Display device and display method |
JP2011107482A (ja) * | 2009-11-18 | 2011-06-02 | Funai Electric Co Ltd | 映像表示装置 |
JP2012109708A (ja) * | 2010-11-16 | 2012-06-07 | Seiko Epson Corp | 映像表示装置及び映像表示方法 |
-
2017
- 2017-02-16 JP JP2017026506A patent/JP6304415B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11164186A (ja) * | 1997-11-27 | 1999-06-18 | Fuji Photo Film Co Ltd | 画像記録装置 |
JP2005172851A (ja) * | 2003-12-05 | 2005-06-30 | Sony Corp | 画像表示装置 |
JP2005223749A (ja) * | 2004-02-06 | 2005-08-18 | Olympus Corp | 頭部装着型カメラ |
US20100013739A1 (en) * | 2006-09-08 | 2010-01-21 | Sony Corporation | Display device and display method |
JP2011107482A (ja) * | 2009-11-18 | 2011-06-02 | Funai Electric Co Ltd | 映像表示装置 |
JP2012109708A (ja) * | 2010-11-16 | 2012-06-07 | Seiko Epson Corp | 映像表示装置及び映像表示方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109064397A (zh) * | 2018-07-04 | 2018-12-21 | 广州希脉创新科技有限公司 | 一种基于摄像耳机的图像拼接方法及系统 |
CN109064397B (zh) * | 2018-07-04 | 2023-08-01 | 广州希脉创新科技有限公司 | 一种基于摄像耳机的图像拼接方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
JP6304415B2 (ja) | 2018-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6094305B2 (ja) | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 | |
US9921646B2 (en) | Head-mounted display device and method of controlling head-mounted display device | |
US9411160B2 (en) | Head mounted display, control method for head mounted display, and image display system | |
US9613592B2 (en) | Head mounted display device and control method for head mounted display device | |
JP6107276B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6277673B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6459380B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP2012203128A (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6488786B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP6318596B2 (ja) | 情報処理装置および情報処理装置の制御方法 | |
US10416460B2 (en) | Head mounted display device, control method for head mounted display device, and computer program | |
JP6600945B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP6303274B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP2016024208A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP6135162B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム | |
JP6369583B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP2015087523A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム | |
JP6304415B2 (ja) | 頭部装着型表示装置、および、頭部装着型表示装置の制御方法 | |
JP2016109710A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP2016033763A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP6273677B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6136162B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6287399B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6669183B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP2015212828A (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180123 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180219 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6304415 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |