JP6015223B2 - 電子機器、及び表示装置 - Google Patents

電子機器、及び表示装置 Download PDF

Info

Publication number
JP6015223B2
JP6015223B2 JP2012176909A JP2012176909A JP6015223B2 JP 6015223 B2 JP6015223 B2 JP 6015223B2 JP 2012176909 A JP2012176909 A JP 2012176909A JP 2012176909 A JP2012176909 A JP 2012176909A JP 6015223 B2 JP6015223 B2 JP 6015223B2
Authority
JP
Japan
Prior art keywords
image
user
display
display unit
see
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012176909A
Other languages
English (en)
Other versions
JP2014035668A5 (ja
JP2014035668A (ja
Inventor
江島 聡
聡 江島
加藤 茂
茂 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012176909A priority Critical patent/JP6015223B2/ja
Publication of JP2014035668A publication Critical patent/JP2014035668A/ja
Publication of JP2014035668A5 publication Critical patent/JP2014035668A5/ja
Application granted granted Critical
Publication of JP6015223B2 publication Critical patent/JP6015223B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、電子機器、及び表示装置に関する。
ヘッドマウントディスプレイ(Head Mounted Display:HMD)には、ユーザーの視界を確保しつつ画面に情報を表示するシースルータイプ(特許文献1参照)と、ユーザーの視界を確保せずに画面に情報を表示する非シースルータイプとがある。
特開平8−328512号公報
しかしながら、シースルータイプの頭部装着型情報入出力装置(ヘッドマウントディスプレイ)は、明るい屋外で使用された場合、画面の背景が明るいために、画面に表示された情報が見づらく、使い勝手がよくないという問題がある。一方、非シースルータイプの頭部装着型情報入出力装置は、画面によりユーザーの視界が遮られてしまうため、使い勝手がよくないという問題がある。
本発明は、前記の点に鑑みてなされたものであり、使い勝手を向上させることができる電子機器、及び表示装置を提供することを目的とする。
本発明の一態様は、入射する光の透過率が変化する光学素子を有し、操作を指示するための画像を表示する表示部と、前記光学素子が第1の透過率であるときに前記表示部に表示される前記画像と前記第1の透過率と異なる第2の透過率であるときに前記表示部に表示される前記画像の大きさまたは表示される位置のうち少なくとも一方が異なるように前記表示部を制御する制御部とを備える電子機器である。
本発明の一態様は、上記に記載の電子機器と、前記電子機器を頭部に装着する装着部とを備える表示装置である。
本発明によれば、電子機器、及び表示装置は、使い勝手を向上させることができる。
本発明の第1実施形態における、頭部装着型情報入出力装置の斜視図である。 本発明の第1実施形態における、頭部装着型情報入出力装置を背面側から見た斜視図である。 本発明の第1実施形態における、ディスプレイ本体の水平断面図である。 本発明の第1実施形態における、ヘッドバンドの動作説明図である。 本発明の第1実施形態における、頭部装着型情報入出力装置の装着形態(第1表示モード)を示す図である。 本発明の第1実施形態における、頭部装着型情報入出力装置に付属のステレオイヤホンを示す斜視図である。 本発明の第1実施形態における、眼球照明ライトの点灯と消灯を説明するための図である。 本発明の第1実施形態における、表示部の構成及び光学系を説明するための表示部の断面図である。 本発明の第1実施形態における、液晶パネルの構成例を示す図である。 本発明の第1実施形態における、第1〜第3観察状態のそれぞれにおける表示領域の違いを説明するための図である。 本発明の第1実施形態における、第1観察状態での観察範囲と撮像範囲を説明するための図である。 本発明の第1実施形態における、第1観察状態での撮像画像の一例を説明するための図である。 本発明の第1実施形態における、第2観察状態での撮像画像の一例を説明するための図である。 本発明の第1実施形態における、第2観察状態での観察範囲と撮像範囲を説明するための図である。 本発明の第1実施形態における、第3観察状態での撮像画像の一例を説明するための図である。 本発明の第1実施形態における、第3観察状態での観察範囲と撮像範囲を説明するための図である。 本発明の第1実施形態における、撮像素子の画角と選択範囲を説明するための図である。 本発明の第1実施形態における、撮像領域と選択領域を説明するための図である。 本発明の第1実施形態における、選択範囲の選択を機械的に行う機構を説明するための図である。 本発明の第1実施形態における、頭部装着型情報入出力装置の機能ブロック図である。 本発明の第1実施形態における、処理部の機能ブロック図である。 本発明の第1実施形態における、非シースルーモードでのメニュー画面の一例を示す図である。 本発明の第1実施形態における、シースルーモードでのメニュー画面の一例を示す図である。 本発明の第1実施形態における、シースルーモードでユーザーが画面下に視線を振った場合でのメニュー画面の一例を示す図である。 本発明の第1実施形態における、頭部装着型情報入出力装置の動作手順の例を示すフローチャートである。 本発明の第2実施形態における、撮像されたユーザーの眼の例を示す図である。 本発明の第2実施形態における、頭部装着型情報入出力装置の動作手順の例を示すフローチャートである。
[第1実施形態]
以下、本発明の実施形態について図面を参照しながら説明する。頭部装着型情報入出力装置(ヘッドマウントディスプレイ、HMD)は、ユーザーの眼を照明するための複数の照明部を、表示部の近傍に備える。頭部装着型情報入出力装置は、これら複数の照明部の点灯状態を、ユーザーと表示部との位置関係に応じて制御する。
この構成により、頭部装着型情報入出力装置は、ユーザーと表示部との位置関係に応じて、点灯させる照明部を選択する。これにより、頭部装着型情報入出力装置は、表示部がユーザーの眼に対して下側、上側又は外側のいずれに配置された場合でも、ユーザーの観察している視線や注視点を、検出することができる。
以下の説明においては、必要に応じてXYZ直交座標系を設定し、このXYZ直交座標系を参照しつつ、頭部装着型情報入出力装置の各部の位置関係について説明する。水平面内の所定方向をX軸方向、水平面内においてX軸方向と直交する方向をY軸方向、X軸方向及びY軸方向のそれぞれと直交する方向(すなわち、鉛直方向)をZ軸方向とする。また、X軸、Y軸、及びZ軸まわりの回転(傾斜)方向をそれぞれ、θX、θY、及びθZ方向とする。
図1は、頭部装着型情報入出力装置の斜視図である。図2は、頭部装着型情報入出力装置を背面側から見た斜視図である。図3は、ディスプレイ本体の水平断面図である。図4は、本実施形態に係るヘッドバンドの動作説明図である。図5は、頭部装着型情報入出力装置の装着形態(第1表示モード)を示す図である。
頭部装着型情報入出力装置1は、ディスプレイ本体20と、ユーザーの頭部に装着されディスプレイ本体20を支持するヘッドバンド40と、を備えた単眼式の頭部装着型情報入出力装置である。頭部装着型情報入出力装置1は、図5に示すように、両眼どちらでも使用可能である。図5(A)には、ユーザーが右眼(右目)で表示部60を見ている状態、図5(B)には左眼(左目)で見ている状態が示されている。
また、図2に示すように、ディスプレイ本体20とヘッドバンド40とは、連結ピン41を介して着脱可能に構成されている。なお、図1及び図2では、ディスプレイ本体20の長手方向をY軸方向、ヘッドバンド40がユーザーの頭部を挟持する方向をX軸方向としている。
以下、頭部装着型情報入出力装置1の各部の構成について詳細に説明する。
ディスプレイ本体20は、主要回路を内蔵するとともに操作部や各種インタフェースを備えた装置本体部21と、装置本体部21の先端に連結された表示部60とを有する。
装置本体部21は、概略板状の筐体21A(図3参照)を有する。本実施形態では、装置本体部21においてヘッドバンド40との接続部が設けられている側の端部(+Y側の端部)を基端部とし、この基端部と反対側の端部(−Y側の端部)を先端部とする。また、装置本体部21をヘッドバンド40に装着した状態で、装置本体部21のヘッドバンド40側(+X側)を内側、ヘッドバンド40と反対側(−X側)を外側とする。
装置本体部21の外面には、図1に示すように、メインスイッチ28と、タッチスイッチ34と、集音マイク24とが、筐体21Aの長手方向に沿って配置されている。
メインスイッチ28は、ディスプレイ本体20の電源のオンオフ操作を行うスイッチである。タッチスイッチ34は、表面に手指等で触れることにより頭部装着型情報入出力装置1の各種操作を行うことができるタッチパネルである。集音マイク24は、環境音を収集する外部マイクである。
装置本体部21内面の基端部側に、図2に示すように、耳元スピーカー23と、オーディオコネクター26と、連結孔31を有するヘッドバンドヒンジ32とが設けられている。装置本体部21内面の中央部に心拍数センサー137が設けられている。装置本体部21の内側面の先端部には通話マイク37が設けられている。
耳元スピーカー23は、ユーザーの耳の近傍に配置される。耳元スピーカー23からユーザーに音声情報が伝えられる。オーディオコネクター26は、例えば、図6に示すイヤホンが接続される音声入出力端子である。ヘッドバンドヒンジ32はヘッドバンド40とのジョイント部である。通話マイク37にはユーザーの音声が入力される。
心拍数センサー137は、ユーザーの顔の表面に接触させることでユーザーの心拍数を測定するセンサーである。心拍数センサー137は、発光ダイオード等を備えた発光部と、ユーザーの皮膚内部で反射した光を検知する受光部とを有する。心拍数センサー137は、血流の変化による反射光量の変化を検出することで心拍数をカウントする。心拍数センサー137はユーザーの眼の近くに配置されるが、発光部から赤外域の光を射出させる構成とすればユーザーにまぶしさを感じさせることはない。
装置本体部21の基端部側の側端面には、USBコネクター25と、操作スイッチ30と、ビデオコネクター27とが設けられている。
USBコネクター25は、USB(Universal Serial Bus)デバイスの接続端子である。本実施形態では、例えば不図示のリモコン(リモートコントローラー)が接続される。
操作スイッチ30は、例えば、トラックボールやスティックなどのポインティングデバイスである。操作スイッチ30は表示部60に表示される画面に正対するように設けられている。これにより、操作スイッチ30における操作の左右方向と、上記画面の左右方向とが一致するので、ユーザーは画面を見ながら直感的に操作スイッチ30を操作することが可能である。
ビデオコネクター27は映像入出力端子である。
図3に示すように、装置本体部21には、筐体21Aの長手方向に沿って延びる板状の回路基板29と、バッテリー33とが内蔵されている。回路基板29には、図示略の制御回路、電源回路等が実装されており、図示略の配線を介してディスプレイ本体20の各部と電気的に接続されている。
装置本体部21の外面に露出するタッチスイッチ34の内側には、液晶パネルからなる表示パネル36と、バックライト35とが配置されている。本実施形態では、表示パネル36の表示画像がタッチスイッチ34を透過して表示される。表示パネル36及びバックライト35を、有機ELパネルや電気泳動パネルとしてもよい。
ヘッドバンドヒンジ32は、筐体21Aに設けられた凹曲面状の収容部32aと、収容部32aに嵌合された球状部32bとからなるボールジョイントである。球状部32bは、球面状の側面部と、この側面部を挟むように互いに平行に形成された2つの平面部を有する。連結孔31は、2つの平面部を垂直に貫くように形成されている。連結孔31は、軸方向視で六角形状に形成されている。ディスプレイ本体20とヘッドバンド40とは、連結孔31にヘッドバンド40の連結ピン41が挿入されることにより連結される。
ヘッドバンドヒンジ32を備えていることで、ディスプレイ本体20は、図1に示したA方向(ヘッドバンドヒンジ32を中心とするX軸回り)に回動させることができる。本実施形態において、ディスプレイ本体20の回転可能範囲は270°程度とされる。このX軸回りの回転動作により、図5(A)に示す右眼で画像を観察する形態と、図5(B)に示す左眼で画像を観察する形態との切替機能が実現される。
また、ヘッドバンドヒンジ32は、ボールジョイントであるため、ディスプレイ本体20は図1に示すB方向(ヘッドバンドヒンジ32を中心とするZ軸回り)に揺動させることもできる。この揺動操作により、ディスプレイ本体20のユーザーの眼や耳に対する位置を調整することができる。
ヘッドバンドヒンジ32近傍の心拍数センサー137は、装置本体部21の内面から突出するように設けられ、頭部装着型情報入出力装置1の装着時に、ユーザーの顔の表面に当接可能とされている。バッテリー33は、一次電池又は二次電池のいずれでもよい。
表示部60は、図1及び図2に示すように、装置本体部21の先端部に連結されている。本実施形態において、表示部60のヘッドバンド40側を内側、ヘッドバンド40と反対側を外側とする。表示部60は、上面視(Z軸視)において湾曲した形状を有するアーム部材であり、装置本体部21との連結部から先端側へ向かうに従って内側へ湾曲する形状を有する。表示部60の内面に、ファインダー開口部67が設けられている。表示部60の外面には、カメラ64が設けられている。また、図2に示すように、ファインダー開口部67の形状は、長方形である。
表示部60の筐体面には、眼球照明ライト166a〜166dが、ファインダー開口部67の近傍に備えられている。図2では、眼球照明ライト166a及び166bは、ファインダー開口部67の長辺の一方に沿った位置であって、ファインダー開口部67の隅の近傍に備えられている。また、眼球照明ライト166c及び166dは、ファインダー開口部67の長辺の他方に沿った位置であって、ファインダー開口部67の隅の近傍に備えられている。
眼球照明ライト166a〜166dは、例えば赤外線の波長領域の光を放射する発光ダイオード(LED)である。眼球照明ライト166a〜166dは、ユーザーと表示部60との位置関係に応じて、点灯または消灯される。以下では、眼球照明ライト166a〜166dを、眼球照明ライト166と総称する。
図3に示すように、表示部60は、ディスプレイヒンジ61を介して装置本体部21と連結されている。ディスプレイヒンジ61は、表示部60の筐体60Aに形成された凹曲面状の収容部61aと、装置本体部21に形成され収容部61aに嵌合された球状部61bとからなるボールジョイントである。
装置本体部21の球状部61bは、装置本体部21の外面先端部に形成された筐体21Aの長手方向に対して斜めに延びる傾斜面21aに、傾斜面21aの法線方向(図3のY’軸方向)に突出するようにして設けられている。
表示部60は、ディスプレイヒンジ61の球状部61bに対してY’軸回りに自由に回転させることができる。本実施形態では、ディスプレイヒンジ61が装置本体部21の傾斜面21aに設けられており、表示部60が内側に湾曲した形状を有している。
また、ディスプレイヒンジ61がボールジョイントであることから、表示部60は、Y’軸回りの回転面に対して直交する方向の揺動も可能である。この揺動動作により、ユーザーによるファインダー開口部67の位置調整が容易になる。表示部60と装置本体部21との間隔を大きくすれば、表示部60の揺動幅を大きくすることができる。
ディスプレイヒンジ61の球状部61bには、球状部61bを高さ方向(Y’軸方向)に貫通する貫通孔61cが形成されている。貫通孔61cを介して、表示部60の内部と装置本体部21の内部とが連通されている。貫通孔61cには、不図示のケーブルが挿通される。回路基板29と表示部60の各部とは、挿通されたケーブルを介して、電気的に接続される。
表示部60の内部には、バックライト62と、表示パネル63と、カメラ64と、プリズム65と、反射ミラー66と、前方ライト68と、前方スピーカー70と、結像レンズ71と、撮像素子72(撮像部)とが設けられている。なお、表示部60の光学系の構成については、後述する。
カメラ64は、例えば、500万画素〜1000万画素の撮像素子を有し、オートフォーカス動作が可能に構成される。カメラ64は、その撮像素子の受光面に結像した画像(光学像)を撮像する。カメラ64は、例えば、ユーザーにとっての正面方向を撮像することができる。なお、撮像された画像は、動画形式または静止画形式のいずれで信号処理されてもよい。
前方ライト68は、例えば、LEDライトである。前方ライト68は、赤、緑、青の各色の発光素子を有し、任意の色を任意のタイミングで発光させることが可能に構成してもよい。前方ライト68は、発光色や発光タイミングにより外部に対して情報を表示する装置として用いてもよく、カメラ64で撮影する際の照明装置として用いてもよい。
撮像素子72は、その受光面に結像した画像(光学像)を撮像する。撮像素子72は、例えば、ユーザーの顔を撮像することができる。なお、撮像された画像は、動画形式または静止画形式のいずれで信号処理されてもよい。
また、図3では図示を省略したが、本実施形態に係る表示部60にはレーザー発信器が設けられている。レーザー発信器は、例えば前方ライト68の近傍に設けることができる。レーザー発信器から射出される例えば赤色レーザー光を前方に照射することで、レーザー光によるポインティング(指標の表示)が可能である。
次に、ヘッドバンド40について、図2及び図4を参照しつつ説明する。
ヘッドバンド40は、図2に示すように、ユーザーの頭部を挟持する一対のヘッドパット(装着部材)46、47と、第1ヘッドバンド43と、第2ヘッドバンド44と、回動機構56、57とを備えている。
第1ヘッドバンド43は、全体として円弧状を成す弾性部材である。第1ヘッドバンド43の頂部に、第1ヘッドバンド43を折り曲げるためのジョイント部43aが設けられている。第1ヘッドバンド43の両端には、回動機構56、57を構成する軸受部43b、43cがそれぞれ設けられている。軸受部43b、43cよりもさらにバンド先端側に、ヘッドパット46、47が接続される軸受部43d、43eが設けられている。
第2ヘッドバンド44は、全体として円弧状を成す弾性部材である。第2ヘッドバンド44の頂部には、第2ヘッドバンド44を折り曲げるためのジョイント部44aが設けられている。第2ヘッドバンド44の両端には、それぞれ回動機構56、57を構成する軸部材44b、44cが設けられている。
また本実施形態において、第2ヘッドバンド44は、ステンレス等の金属からなるバネ部材48の表面を樹脂等の柔軟な材料で被覆した構成を有する。この第2ヘッドバンド44のバネ部材48においてユーザーの頭部を挟持するバネ力を発生させる。また第2ヘッドバンド44は第1ヘッドバンド43と比較して広い幅に形成されている。ジョイント部44aの形成部分は他のバンド部分よりもさらに広く形成された標章表示部49とされている。標章表示部49には、シールや印刷により製品タグ等が付される。なお、第2ヘッドバンド44の全体を金属で形成してもよい。
ヘッドパット46は、板状の支持板46aと、支持板46aの一面側に設けられた断面アーチ状の弾性部材46bとを有する。支持板46aの弾性部材46bと反対側の面に、当該面に垂直な姿勢で概略六角柱状の連結ピン41が立設されている。連結ピン41は、第1ヘッドバンド43の一方の先端に設けられた軸受部43dに軸支されている。これにより、ヘッドパット46は連結ピン41回りに回転可能である。
ヘッドパット47は、板状の支持板47aと、支持板47aの一方の面に設けられた断面アーチ状の弾性部材47bとを有する。支持板47aの弾性部材47bと反対側の面には、軸部材47cが設けられている。軸部材47cは、第1ヘッドバンド43の先端に設けられた軸受部43eに軸支されている。これにより、ヘッドパット47は、軸部材47c回りに回転可能である。
この構成により、第2ヘッドバンド44は、回動機構56によって第1ヘッドバンド43から離れる方向に回動付勢される一方、回動機構57によって第1ヘッドバンド43に対して所定角度以内の範囲に回動規制される。これにより、第2ヘッドバンド44は第1ヘッドバンド43に対して所定の角度となるように保持される。したがって、回動機構56、57は、ヘッドバンド40における角度保持機構として機能する。
次に、頭部装着型情報入出力装置1におけるヘッドバンドの動作等について、図4、図5を参照しつつ説明する。以下、ユーザーにとっての右側を「ユーザーの右側」と称する。また、ユーザーにとっての左側を「ユーザーの左側」と称する。また、ユーザーにとっての上側を「ユーザーの上側」と称する。また、ユーザーにとっての下側を「ユーザーの下側」と称する。また、ユーザーにとっての時計回り方向を「時計回り方向」と称する。また、ユーザーにとっての反時計回り方向を「反時計回り方向」と称する。
図5に示したように、頭部装着型情報入出力装置1は、図5(A)に示す右眼観察形態と、図5(B)に示す左眼観察形態を切り替えて使用することができる。ここで、右眼観察形態とは、ユーザーが右眼で表示部60を観察する形態である。また、左眼観察形態とは、ユーザーが左眼で表示部60を観察する形態である。以下、図5(A)及び図5(B)示した形態、すなわち、ユーザーから見てファインダー開口部67が横長に配置される形態を、第1表示モードと称する。
例えば、右眼観察形態から左眼観察形態へ切り替えるには、まず、ヘッドバンド40に連結されたディスプレイ本体20を、ヘッドバンドヒンジ32(図2を参照)の回転軸回り(図5では、A方向)に180°程度回転させる。さらに、ヘッドバンド40において、回動機構56及び57(図4を参照)の軸回りに第2ヘッドバンド44を揺動させることで、第2ヘッドバンド44の位置と第1ヘッドバンド43の位置との前後関係を入れ替える。この操作により、図5(B)に示すように、ユーザーの左眼側にディスプレイ本体20が配置され、且つ、第2ヘッドバンド44がユーザーの後頭部側に配置された左眼観察形態に、頭部装着型情報入出力装置1は切り替えられる。
右眼観察形態では、右眼の近傍にある眼球照明ライト166a及び166bが点灯し、眼球照明ライト166c及び166dが消灯する。一方、左眼観察形態では、左眼の近傍にある眼球照明ライト166c及び166dが点灯し、眼球照明ライト166a及び166bが消灯する。
本実施形態では、図4に示すように、第1ヘッドバンド43の円弧高さr1を、第2ヘッドバンド44の円弧高さr2よりも小さくしている。これにより、第2ヘッドバンド44を第1ヘッドバンド43と交差させるように移動させても、互いに干渉することなく円滑に前後を入れ替えることができる。
図4に示す円弧高さr1は、同軸に配置された回動機構56、57の回転軸Lの中央位置Cから第1ヘッドバンド43までの距離の最大値である。また円弧高さr2は、回転軸Lの中央位置Cから第2ヘッドバンド44までの距離の最大値である。
なお、第1ヘッドバンド43の円弧高さr1を第2ヘッドバンド44の円弧高さr2よりも大きくし、第2ヘッドバンド44を第1ヘッドバンド43の内側で揺動させる構成としてもよい。
図6は、頭部装着型情報入出力装置に付属のステレオイヤホンを示す斜視図である。
ステレオイヤホン100は、コネクター101と、ケーブル102と、第1スピーカー103と、第2スピーカー104と、集音マイク105と、複数のクリップ106とを有する。
コネクター101はケーブル102の一方の端部に設けられている。コネクター101は、一般的な4極φ3.5mmのミニプラグである。4極の内訳は、集音マイク105、第1スピーカー103、第2スピーカー104、グランド(GND)である。ケーブル102は、コネクター101の近傍において二分岐され、分岐されたケーブルの先端に第1スピーカー103が設けられている。ケーブル102の他方の端部には、第2スピーカー104と集音マイク105とが設けられている。複数のクリップ106は、ケーブル102上に所定の間隔で配置されている。
ステレオイヤホン100は、コネクター101をディスプレイ本体20のオーディオコネクター26に接続して使用される。ステレオイヤホン100が接続されると、ディスプレイ本体20の耳元スピーカー23と、表示部60の通話マイク37は無効化される。また表示部60の前方スピーカー70も必要に応じて無効化される。そして、ステレオイヤホン100の第1スピーカー103、第2スピーカー104、及び集音マイク105が有効化される。
ステレオイヤホン100の第1スピーカー103は、ディスプレイ本体20が配置された側のユーザーの耳に装着され、第2スピーカー104は第1スピーカー103と反対側の耳に装着される。このとき、ケーブル102は、クリップ106によって第2ヘッドバンド44に固定することができる。
また、ステレオイヤホン100の集音マイク105と、ディスプレイ本体20において筐体21Aの外側面に設けられた集音マイク24とにより、ステレオ録音が可能である。例えば、図5(A)に示すようにディスプレイ本体20が右眼側に配置されているとすれば、ディスプレイ本体20の集音マイク24はユーザーの右側の音を収集し、左耳に装着された集音マイク105はユーザーの左側の音を収集する。
また、右眼観察形態では、ステレオイヤホン100の第1スピーカー103から右チャンネルの音声が出力され、第2スピーカー104からは左チャンネルの音声が出力される。
一方、図5(B)に示すように、ユーザーの左眼側にディスプレイ本体20が配置されている場合には、ディスプレイ本体20の集音マイク24が、ユーザーの左側の音を収集し、右耳に装着された集音マイク105が、ユーザーの右側の音を収集する。左眼観察形態では、ステレオイヤホン100の第1スピーカー103から、左チャンネルの音声が出力され、第2スピーカー104からは、右チャンネルの音声が出力される。
次に、眼球照明ライト166a〜166dの点灯と消灯について説明する。
図7は、本実施形態に係る眼球照明ライト166の点灯と消灯を説明するための図である。図7(A)は、右眼観察形態における眼球照明ライト166の点灯と消灯を説明するための図である。図7(B)は、左眼観察形態における眼球照明ライト166の点灯と消灯を説明するための図である。図7(A)及び図7(B)において、ユーザーの顔の正面方向を、HZと表記する。
図7(A)に示した例では、表示部60は、右眼の斜め下に配置されている。また、正面方向HZと表示部60の画面の法線とは、角度αを成している。頭部装着型情報入出力装置1は、眼球照明ライト166a〜166dのうち、ユーザーの眼に近い側の眼球照明ライトを選択し、選択した眼球照明ライトを点灯させる。一方、頭部装着型情報入出力装置1は、選択した以外の眼球照明ライト、すなわち、ユーザーの眼から遠い側の眼球照明ライトを消灯させる。
図7(A)では、眼球照明ライト166a及び166bは、正面方向HZから角度α1だけ下側に配置されている。一方、眼球照明ライト166c及び166dは、正面方向HZから角度α2だけ下側に配置されている。ここで、角度α1は、角度αより小さく、角度α2は、角度αより大きい。つまり、眼球照明ライト166a及び166bは、眼球照明ライト166c及び166dよりも、ユーザーの右眼の近くに配置されている。
この場合、頭部装着型情報入出力装置1は、眼球照明ライト166a及び166bを点灯させ、且つ、眼球照明ライト166c及び166dを消灯させる。この点灯状態で、撮像素子72は、ユーザーの右眼の周りを撮像する。以下、ユーザーの右眼の周りが撮像された画像を、「右眼の周辺画像」という。
なお、右眼の周辺画像には、右眼の画像、右眉毛の画像、顔の一部(頭、髪の毛等)の画像が含まれてもよい。また、左眼の周辺画像には、左眼の画像、左眉毛の画像、顔の一部(頭、髪の毛等)が含まれてもよい。以下、右眼の周辺画像、及び左眼の周辺画像を、「眼の周辺画像」と総称する。
図7(A)に示した例では、ユーザーの右眼から遠い側の眼球照明ライト166c及び166dは、ユーザーの頬が邪魔になり、ユーザーの右眼を照明できないこともある。したがって、頭部装着型情報入出力装置1は、ユーザーの右眼から遠い側の眼球照明ライト166c及び166dを消灯させる。これにより、頭部装着型情報入出力装置1は、消費電力を低減させることができる。
一方、図7(B)では、眼球照明ライト166c及び166dは、正面方向HZから角度α3だけ下側に配置されている。一方、眼球照明ライト166c及び166dは、正面方向HZから角度α4だけ下側に配置されている。ここで、角度α3は、角度αより小さく、角度α4は、角度αより大きい。つまり、眼球照明ライト166a及び166bは、眼球照明ライト166c及び166dよりも、ユーザーの左眼の近くに配置されている。
この場合、頭部装着型情報入出力装置1は、眼球照明ライト166c及び166dを点灯させ、且つ、眼球照明ライト166a及び166bを消灯させる。この点灯状態で、撮像素子72は、ユーザーの左眼の周りを撮像する。以下、ユーザーの左眼の周りが撮像された画像を、「左眼の周辺画像」という。
図7(B)に示した例では、ユーザーの左眼から遠い側の眼球照明ライト166a及び166bは、ユーザーの頬が邪魔になり、ユーザーの左眼を照明できないこともある。したがって、頭部装着型情報入出力装置1は、ユーザーの左眼から遠い側の眼球照明ライト166a及び166bを消灯させる。これにより、頭部装着型情報入出力装置1は、消費電力を低減させることができる。
つまり、頭部装着型情報入出力装置1は、ユーザーの眼と表示部60との位置関係に応じて、眼球照明ライト166a〜166dのうち、ユーザーの眼をより正面から照明することができる眼球照明ライトを点灯させ、それ以外の眼球照明ライトを消灯させる。
次に、表示部60の構成及び光学系を説明する。
図8は、表示部60の構成及び光学系を説明するための表示部60aの断面図である。表示部60aは、バックライト62、表示パネル63、第1プリズム65a、第2プリズム65b、反射ミラー66、ファインダー開口部67、結像レンズ71、撮像素子72、1/4波長板75、偏光板90、凹レンズ91、1/4波長板92、液晶93、偏光板94、及び、開口部95を備える。ここで、符号H、I、J、K、O及びTは、それぞれ光線を表す。また、符号Sは、ユーザーの眼に反射された光の光束を表す。
光線Oは、開口部95に入射し、偏光板94を透過して、液晶93に入射する。ここで、液晶93に通電されている(オン状態である)場合、液晶93は、光線Oの偏光方向を変化させることで、S偏光のみを偏光板94に透過させて、1/4波長板92に入射させる。また、光線Oは、1/4波長板92により、左回りの偏光となる。
反射ミラー66は、半透過タイプであり、例えば、50%の光線を透過させる一方で、50%の光を反射させる。以下では、反射ミラー66は、50%の光線を透過させるものとして説明を続ける。すなわち、光線Oは、その50%が、1/4波長板75に入射する。なお、凹レンズ91は、反射ミラー66を構成する凸レンズとペアとなることで、パワーゼロの平行平板となるようにするための部材である。
1/4波長板75は、光線OをP偏光にして、第1プリズム65aに入射させる。光線Oは、接合面65cをそのまま透過し、第2プリズム65bを透過して、偏光板90に入射する。偏光板90は、P偏光を透過させる。これにより、ユーザーは、視界、すなわち、開口部95を通して見える範囲を(シースルー)、表示パネル63から投影された画像とともに観察することができる。
一方、液晶93に通電されていない(オフ状態である)場合、液晶93は、光線Oの偏光方向を変化させない。このため、光線Oは、偏光板94によりS偏光となって、1/4波長板92に入射する。また、光線Oは、1/4波長板92により、右回りの偏光となる。
反射ミラー66を透過した光線Oは、その50%が、1/4波長板75に入射する。1/4波長板75は、光線OをS偏光にする。S偏光になった光線Oは、第1プリズム65aに入射する。接合面65cの偏光反射膜は、S偏光を反射する。これにより、ユーザーの眼には、外界からの光が入射しない。つまり、ユーザーは、視界、すなわち、開口部95を通して見える範囲を観察することができず(非シースルー)、表示パネル63から投影された画像のみを観察することができる。
このように、表示部60aは、液晶93のオン状態とオフ状態とを切り替えることにより、ユーザーの視界を隠すか否か(非シースルー及びシースルー)を切り替えることができる。なお、表示部60aは、液晶93のオン状態及びオフ状態を、例えば、処理部(図20を用いて後述する)による制御に応じて実行してもよい。
ユーザーの眼からの光の光束Sは、偏光板90によりP偏光のみが透過し、第2プリズム65b、接合面65c及び第1プリズム65aを透過して、1/4波長板75に入射する。また、1/4波長板75は、光束Sを左回りの円偏光にして、反射ミラー66に光束Tとして反射させる。また、反射ミラー66は、光束Tを右回りの円偏光にして、1/4波長板75に透過させることで、光束SをS偏光にする。また、光束Tは、第1プリズム65aを透過して、接合面65cに入射する。ここで、接合面65cは、S偏光を反射して透過させない。これにより、偏光板90は、反射ミラー66により拡大されたユーザーの眼の画像を、ユーザー自身に観察させることがない。
結像レンズ71及び撮像素子72は、ユーザーの眼の周辺を撮影するため、ファインダー開口部67に隣接して備えられている。ここで、撮像素子72は、第2プリズム65bを介さずに、ユーザーの眼の近傍を撮影することができる。
図9は、液晶パネルの構成例を示す図である。液晶93は、一例として、5個の領域(液晶93a〜液晶93e)に分割されて、オン状態とオフ状態とを個別に切り替えることができる。ここで、オン状態にされた領域は、光を透過させる。一方、オフ状態にされた領域は、光を透過させずに遮る。
右眼観察形態(図5(A)を参照)では、液晶93aは、ユーザーの視界の下側に位置することになる。また、液晶93bは、ユーザーの視界の右側に位置することになる。また、液晶93cは、ユーザーの視界の上側に位置することになる。また、液晶93dは、ユーザーの視界の左側に位置することになる。また、液晶93ebは、ユーザーの視界の中央に位置することになる。
次に、右眼観察形態で、ファインダー開口部67を介してユーザーが観察する画像、及び、撮像素子72により撮像される画像について説明する。
なお、図11、図14及び図16では、光学的に等価になるように、反射ミラー66(図8を参照)は、凸レンズに置き換えられている。また、図11、図14、及び図16において、一点鎖線CTは、結像レンズ71の光軸を表している。
以下、表示部60が、ユーザーの眼から所定距離内に配置されている状態を、「第1観察状態」という。
図10は、第1〜第3観察状態のそれぞれにおける表示領域の違いを説明するための図である。第1観察状態では、表示部60がユーザーの眼から所定距離内に配置されているので、表示パネル63の全表示領域は、ユーザーから観察可能である。したがって、表示パネル63は、この全表示領域に画像を表示させることができる。すなわち、表示パネル63の全表示領域が、表示領域Sとなる。
以下、表示領域Sの横の長さを、Swと表記する。また。表示領域Sの縦の長さを、Shと表記する。また、以下では、一例として、Swは800画素、Shは600画素として説明を続ける。また、表示領域Tの縦の長さを、Thと表記する。また、表示領域Tの横の長さを、Twと表記する。また、表示領域Uの縦の長さを、Uhと表記する。また、表示領域Uの横の長さを、Uwと表記する。
図11は、第1観察状態での観察範囲と撮像範囲を説明するための図である。観察範囲67aにユーザーの眼がある場合、ファインダー開口部67を介して、ユーザーは、表示パネル63の全表示領域に相当する表示領域Sを観察することができる。また、観察範囲67aは、反射ミラー66(図11では、凸レンズ)の光軸上では、ファインダー開口部67から距離Pまでの範囲にある。一方、撮像素子72が撮影することができる撮影範囲67cは、観察範囲67aを含んでいる。つまり、撮像素子72は、観察範囲67aにユーザーの眼がない場合でも、撮影範囲67cにユーザーの眼があれば、ユーザーの眼を眉毛なども含めて撮像することができる。
図12は、第1観察状態での撮像画像の一例を説明するための図である。図12の略中心には、撮像素子72によりユーザーの眼が撮像されている。この場合、図7(A)を用いて説明したように、眼球照明ライト166a及び166bが点灯している。右眼観察形態の場合、図12における+Z側が鉛直上方向、−Z側が鉛直下方向、+X側がユーザーの左側、−X側がユーザーの右側となる。なお、左眼観察形態の場合、表示部60が180度反転されているので、右眼観察形態と比較して、眼の周辺画像は左右上下が反転することになる。
図12において、符号601Rは、右眼の画像を示す符号であり、符号602Rは、右眉毛の画像を示す符号である。符号604Aは、眼球照明ライト166a(図2を参照)による輝点の画像を示す符号であり、符号604Bは、眼球照明ライト166b(図2を参照)による輝点の画像を示す符号である。また、符号L41は、X軸方向におけるユーザーの眼の幅を示す符号である。例えば、第1観察状態において、撮像素子72の解像度が、横方向(X軸方向)に640画素である場合、画像における眼の幅L41は、350画素程度である。
図12では、ユーザーの眼と眉毛の距離が幅L41以下なので、撮像画像には、適切な範囲が撮像されているといえる。このように、ユーザーの眼を下側から撮影することは、有効である。
このように、第1観察状態では、ユーザーが正面を見る際、ファインダー開口部67が邪魔にならない。また、後述するように、第1観察状態では、撮像素子72による撮像画像に撮像された眉毛、目元及び眼球の動きに基づいて、頭部装着型情報入出力装置1は、ユーザーの視線方向を検出することができる。
以下、ユーザーの眼が、第1観測状態と比較して表示部60から離れている状態を、「第2観察状態」という。
次に、第2観察状態について、図10、図13、及び図14を用いて説明する。
図13は、第2観察状態での撮像画像の一例を説明するための図である。符号601R1は、右眼の画像を示す符号であり、符号602R1は、右眉毛の画像を示す符号である。符号604Cは、眼球照明ライト166aによる輝点の画像を示す符号であり、符号604Dは、眼球照明ライト166bによる輝点の画像を示す符号である。また、符号L71は、X軸方向におけるユーザーの眼の幅を示す符号である。
第2観察状態では、ユーザーの眼が表示部60から離れているので、第1観察状態よりも、ユーザーの眼の画像が小さく撮像される。撮像画像におけるユーザーの眼の幅L71が、第1観察状態でのユーザーの眼の幅L41以下(例えば、300画素以下)である場合、頭部装着型情報入出力装置1は、ユーザーが表示部60から眼を離していると判定する。
図14は、第2観察状態での観察範囲と撮像範囲を説明するための図である。図14では、ユーザーの眼eyeは、反射ミラー66(図14では、凸レンズ)の光軸上で、ファインダー開口部67から距離P以上距離P2以内の位置に在り、第1観察状態での観察範囲67b(光軸上で、ファインダー開口部67から距離P以内)には無い。このため、ユーザーは、表示領域S(図10を参照)の一部しか観察することができない。
そこで、第2観察状態では、頭部装着型情報入出力装置1は、縮小率ηで縮小した画像を、表示領域T(図10を参照)に表示させる。第2観察状態において、表示領域Tに表示される画像の縮小率η(第1観察状態との比率)は、次式(1)により示される。
η = L71/L41 ・・・(1)
例えば、ユーザーの眼の幅L41(図12を参照)が350画素であるのに対して、L71(図13を参照)が220画素である場合、頭部装着型情報入出力装置1は、約0.63倍(=(L71/L41)=(Th/Sh)=(Tw/Sw))に縦横をそれぞれ縮小した画像を、表示パネル63の表示領域Tに表示させる。表示領域Tに表示された画像(光学像)の全体は、ファインダー開口部67の縁に遮られることなく、ユーザーの眼に届く。なお、第2観察状態において、頭部装着型情報入出力装置1は、眼球照明ライト166の輝度を、第1観察状態でのその輝度と比較して高くしてもよい。
以下、表示部60とユーザーの眼との相対位置が、第2観測状態と比較して左右いずれかの方向にずれている状態を、「第3観察状態」という。
次に、第3観察状態について、図10、図15、及び図16を用いて説明する。
図15は、第3観察状態での撮像画像の一例を説明するための図である。第3観察状態では、第2観察状態と比較して、ユーザーの眼の画像が、一例として、画像の中心付近から右下方向にベクトルV1だけずれて撮像されているとする。
符号601R2は、右眼の画像を示す符号であり、符号602R2は、右眉毛の画像を示す符号である。符号604Eは、眼球照明ライト166aによる輝点の画像を示す符号であり、符号604Fは、眼球照明ライト166bによる輝点の画像を示す符号である。また、一点鎖線で示した605Aは、ユーザーの眼の位置がずれていない場合に撮像される眼球の外形画像を表す。また、符号605Bは、ユーザーの眼が光軸中心にある場合の眼球の画像を表す。
図16は、第3観察状態での観察範囲と撮像範囲を説明するための図である。図16では、ユーザーの眼eyeは、観察範囲67e内、すなわち、ファインダー開口部67から距離P以上離れ、且つ、光軸CTから内側にV1のX成分量(=V1x)だけずれている位置に在る。観察範囲67eに在るユーザーの眼は、第1観察状態での観察範囲67b(光軸上で、ファインダー開口部67から距離P以内)には無いので、表示領域S(図10を参照)の一部しか観察することができない。
そこで、第3観察状態では、頭部装着型情報入出力装置1は、ユーザーから表示画像の全体が観察できるように、所定の縮小率(=(Uh/Sh)=(Uw/Sw))で画像を縮小する。また、頭部装着型情報入出力装置1は、この縮小した画像を、表示領域U(図10を参照)に表示させる。ここで、頭部装着型情報入出力装置1は、表示領域S(図10を参照)における表示領域Uの位置を、ユーザーの眼の位置ずれ量及び方向に応じて定める。第3観察状態では、表示領域Uは、表示領域Sの右上に定められている。
ここで、結像レンズ71及び撮像素子72から成る撮像系の記録画素数は、例えば、横640画素、縦480画素であるとする。また、結像レンズ71及び撮像素子72から成る撮像系の画角は、横60度、縦45度であるとする。この場合、1画素当たりの画角は、約0.094度となる。
したがって、ユーザーの眼の位置の水平方向のずれ量(ベクトルV1のX成分量)が、例えば、50画素であれば、ユーザーの眼の位置は、4.7度(=50画素×0.094度)ほどずれていることになる。表示領域S(図10を参照)の水平方向(Sw:800画素)の視界角が、例えば、35度であれば、頭部装着型情報入出力装置1は、表示パネル63の中心から、108画素分(=Sw×4.7度÷35度)だけ、水平方向右に表示領域Uの位置を定める。頭部装着型情報入出力装置1は、垂直方向についても同様に、所定画素数だけずらした位置に表示領域Uを定める。
図15及び図16では、頭部装着型情報入出力装置1は、表示領域Uの水平方向Uwが500画素、縦方向Uhが375画素となるまで画像を縮小し、表示領域Sの中心から水平方向右に108画素、且つ、ベクトルV1のz成分量(=V1z)に対応する前記所定画素数だけ垂直方向上にずらした位置に、表示領域U(図10を参照)を定める。表示領域Uには、表示領域Uと同じ縮小率で縮小された画像が表示される。これにより、ユーザーの眼eyeが光軸上からずれた場合でも、頭部装着型情報入出力装置1は、画像の全体が見えるよう、その画像を表示することができる。
頭部装着型情報入出力装置1は、撮像画像から、例えば、眼の輪郭の画像を抽出し、抽出した眼の輪郭の画像の位置に基づいて、眼の位置ずれ量及び方向(ベクトルV1)を検出する。ここで、眼の位置ずれ量及び方向の検出は、撮像画像から眼球の画像を抽出し、抽出した眼球の輪郭画像のずれ量に基づいて、その眼の位置ずれ量及び方向を検出してもよい。また、頭部装着型情報入出力装置1は、眼球照明ライトLED166a〜166d(図2を参照)を適宜点灯させ、それらの眼球照明ライトが投射した光によるスポットを、ユーザーの眼球上で測定することで、ベクトルV1を検出するようにしてもよい。
上述したように、ユーザーの眼が表示部60から離れている、又は、光軸からずれている場合でも、頭部装着型情報入出力装置1では、ユーザーと表示部60との位置関係に応じて、ユーザーが画像の全領域を観察可能となるように、表示部60に画像を表示することができる。なお、表示領域を定めるタイミングは、表示画面をシースルーにするか否かの判定を実行するタイミング(後述)の前後のいずれでもよい。
次に、右眼観察形態と左眼観察形態との切り替えに伴う、撮像素子72の設置角度の調整について説明する。
図17は、本実施形態に係る撮像素子72の画角と選択範囲を説明するための図である。図17(A)は、右眼観察形態における撮像素子72の画角と選択範囲を説明するための図である。図17(B)は、左眼観察形態における撮像素子72の画角と選択範囲を説明するための図である。なお、図17(A)及び図17(B)では、第1ヘッドバンド43、第2ヘッドバンド44、装置本体部21等は、図示が省略されている。
図18は、本実施形態に係る撮像領域と選択領域を説明するための図である。図18(A)は、ヘッドバンドヒンジ32(図2を参照)が揺動された場合における、撮像素子72(図3を参照)による撮像領域を説明するための図である。また、図18(B)は、撮像領域から選択された選択領域を説明するための図である。ここで、符号Pは、撮像素子72が撮像可能な範囲を示す符号である。また、撮像素子72は、例えば、4対3のアスペクト比を有する。
右眼観察形態の場合、第1表示モード(図5(A)を参照)では、撮像素子72は、撮像領域のアスペクトが縦長になるように、表示部60内に設けられている。この場合、撮像素子72は、図17(A)及び図18(B)に示すように、符号Pで示した領域(以下、「撮像領域P」という)のうち、符号Qで示された領域(以下、「選択領域Q」という)に撮像される範囲のみの画像データを取り込む。これにより、撮像素子72は、右眼観察形態において、眉毛まで含めて右眼の画像データを適切に取り込むことができる。
一方、左眼観察形態の場合、第1表示モード(図5(B)を参照)では、撮像素子72は、撮像領域のアスペクトが縦長になるように、表示部60内に設けられている。この場合、撮像素子72は、図17(B)及び図18(B)に示すように、撮像領域Pのうち、符号Rで示された領域(以下、「選択領域R」という)に撮像される範囲のみの画像データを取り込む。これにより、撮像素子72は、左眼観察形態において、眉毛まで含めて左眼の画像データを適切に取り込むことができる。
また、頭部装着型情報入出力装置1は、右眼観察形態又は左眼観察形態のいずれであるかを、加速度センサーが検出した加速度を示す検出値(後述)の代わりに、撮像素子72による撮像画像に基づいて適切に判定することができる。
図19は、本実施形態に係る選択範囲の選択を機械的に行う機構を説明するための図である。撮像素子72の本体72aには、回転軸72bが固定されている。この回転軸72bに対しては、ダイヤル72cが設けられている。ユーザーは、ダイヤル72cを回動可能範囲で回動(図19では、D方向)にさせることで、回転軸72bを軸として、撮像素子72をチルトさせることができる。
結像レンズ71が上を向く方向にチルトされた場合、選択領域Q(図18(B)を参照)は、撮像領域Pにおける上側の領域に定められる。これにより、撮像素子72は、ユーザーの眼及び眉毛を、撮像領域Qで撮像することができる。一方、結像レンズ71の下を向く方向にチルトされた場合、選択領域R(図18(B)を参照)は、撮像領域Pの下側の領域に定められる。これにより、撮像素子72は、ユーザーの眼及び眉毛を、撮像領域Rで撮像することができる。
なお、頭部装着型情報入出力装置1は、ダイヤル72cにより、撮像領域Q又は選択領域Rの位置を微調節することも可能である。また、撮像素子72による撮像画像が表示部60に表示された場合、ユーザーは、表示部60に表示されている撮像画像を観察しながら、表示部60と眼の位置関係に応じて、撮像素子72の撮像領域を選択することができる。この結果、頭部装着型情報入出力装置1は、範囲が適切になるよう撮像された撮像画像を用いて、頭部装着型情報入出力装置1の位置合わせ(後述)、及び注視点検出のためのキャリブレーションの精度を高めることができる。
次に、頭部装着型情報入出力装置1の機能ブロックについて説明する。
図20は、頭部装着型情報入出力装置1の機能ブロック図である。
頭部装着型情報入出力装置1には、処理部123を中心として種々の電気回路が備えられている。処理部123は、CPU(中央演算装置:Central Processing Unit)であり、頭部装着型情報入出力装置1の各種回路と接続されるとともに、頭部装着型情報入出力装置1を総合的に制御する。
バッテリー33は、電力を電源回路120に供給する。
電源回路120は、バッテリー33から供給された電力を、処理部123の制御により頭部装着型情報入出力装置1の各部に供給する。
本実施形態の場合、処理部123には、エンコーダー129及びデコーダー121、電源回路120、操作スイッチ30、フラッシュメモリー122、BLドライバ126、BT通信回路130、WiFi通信回路131、加速度センサー132、地磁気センサー133、前方ライト68、3G/LTE通信回路138、レーザー発信器73、角速度センサー134、GPSセンサー135、温湿度センサー136、心拍数センサー137、メモリー127、メインスイッチ28、タッチスイッチ34、眼球照明ライト166a〜166d、及び、ヘッドバンドセンサー151が接続されている。
エンコーダー129は音声信号及び画像信号を所定方式の音声データ及び画像データにエンコード(符号化)する。エンコーダー129には、カメラ64、撮像素子72、集音マイク24、通話マイク37、オーディオコネクター26、ビデオコネクター27が接続されている。
エンコーダー129には、集音マイク24及び通話マイク37から入力される音声信号、カメラ64から入力される画像信号、オーディオコネクター26から入力される音声信号、ビデオコネクター27から入力される画像信号、及び、眼の周辺画像を撮影する撮像素子72の画像信号が入力される。エンコーダー129に入力された音声信号及び画像信号は音声データ及び画像データにエンコードされた後、処理部123に入力される。入力された音声データ及び画像像データは、処理部123による再生動作に用いられたり、フラッシュメモリー122に記録される。
デコーダー121は、音声データ及び画像データを音声信号及び画像信号にデコード(復号化)する。デコーダー121には、LCDドライバ125、スピーカーアンプ162、オーディオコネクター26、及びビデオコネクター27が接続されている。LCDドライバ125は液晶パネル用の駆動制御装置であり、表示パネル36及び表示パネル63に接続されている。スピーカーアンプ162は音声信号を増幅してスピーカーに出力する装置であり、耳元スピーカー23及び前方スピーカー70に接続されている。
画像データを再生する場合、フラッシュメモリー122に記録された画像データ、あるいはエンコーダー129から入力される画像データは、処理部123を介してデコーダー121に入力される。デコーダー121に入力された画像データは、画像信号にデコードされた後、LCDドライバ125を介して表示パネル36、63に供給される。そして、画像信号が入力された表示パネル36又は表示パネル63に画像データに基づく画像が表示される。また、デコーダー121からビデオコネクター27に出力される画像信号は、ビデオコネクター27を介して外部機器に出力される。
また画像の表示に際して、処理部123は、必要に応じて表示パネル36用のバックライト35、及び表示パネル63用のバックライト62を点灯させる。BLドライバ126は、バックライト用の駆動制御装置であり、バックライト35及びバックライト62に接続されている。処理部123は、BLドライバ126に駆動信号を送信し、BLドライバ126はバックライト35、62を個々に点灯させる。
音声データを再生する場合、フラッシュメモリー122に記録された音声データ、あるいはエンコーダー129から入力される音声データは、処理部123を介してデコーダー121に入力される。デコーダー121に入力された音声データは、音声信号にデコードされた後、スピーカーアンプ162を介して耳元スピーカー23及び前方スピーカー70のいずれか一方、又は両方に出力される。そして、音声信号を入力された耳元スピーカー23又は前方スピーカー70から音声が出力される。また、デコーダー121からオーディオコネクター26に出力される音声信号は、オーディオコネクター26を介してステレオイヤホン100に出力される。
本実施形態の場合、耳元スピーカー23及び前方スピーカー70は、モノラル音声の使用を想定しており、耳元スピーカー23及び前方スピーカー70からは左右の音声信号が合成された音が発せられる。
一方、ステレオイヤホン100に音声信号が出力される場合、第1スピーカー103及び第2スピーカー104のそれぞれ左チャンネル又は右チャンネルの音が出力される。ここで、本実施形態の頭部装着型情報入出力装置1は左右両用であるため、装着位置に応じてステレオイヤホン100への音声信号のチャンネルが切り替わる。すなわち、ディスプレイ本体20が右眼に装着されている場合には、第1スピーカー103に右チャンネル、第2スピーカー104に左チャンネルの音が出力される。ディスプレイ本体20が左眼に装着されている場合には第1スピーカー103に左チャンネル、第2スピーカー104に右チャンネルの音が出力される。
メモリー127には、処理部123によって実行される制御プログラムが記憶されている。
全体の電源のオンオフを行うメインスイッチ28や、画面内でのポインティング操作を行うための操作スイッチ30、あるいはタッチ操作により各種操作を行うタッチスイッチ34がユーザーにされると、これらのスイッチから操作に基づく制御信号が処理部123へ出力される。処理部123は、制御信号により操作を検出し、上記の制御プログラムに規定された動作を実行する。
BT通信回路130は、他の機器とのBluetooth(登録商標)通信を行うための通信回路である。WiFi通信回路131は、他の機器との無線LAN通信(IEEE 802.11)を行うための通信回路である。3G/LTE通信回路138は、他の機器との移動通信を行うための通信回路である。
加速度センサー132は、頭部装着型情報入出力装置1の傾き検出に用いられる。加速度センサー132は、例えば3軸センサーであり、重力加速度を検出する。加速度センサー132は、例えば、装置本体部21内に取り付けられている。
以下、加速度センサー132の座標は、地表に直立したユーザーが頭部装着型情報入出力装置1を頭に装着している場合における、ユーザーにとっての上下方向をZ軸方向、左右方向をX軸方向、前後方向をY軸方向とする。また、加速度センサー132は、右眼観察形態の場合にZ軸方向の検出値が負値となり、左眼観察形態の場合にZ軸方向の検出値が正値となるように、取り付けられている。
地磁気センサー133は、頭部装着型情報入出力装置1の方角検出に用いられる。角速度センサー(ジャイロセンサー)134は、頭部装着型情報入出力装置1の回転検出に用いられる。GPSセンサー135は、GPS(Global Positioning System)を利用した測位検出に用いられる。温湿度センサー136は、環境の温度、湿度の検出に用いられる。心拍数センサー137は、ユーザーの頬に接触し、ユーザーの心拍数を検出する。
図21は、本実施形態に係る処理部123の機能ブロック図である。処理部123は、入力検出部301、制御部302、記憶部303、眼球照明部304、音声調整部305、画像切替部306、画像表示部307、及び送受信部308を備えている。図21では、WiFi通信回路131及び3G/LTE通信回路138(図20を参照)を、「通信インタフェース(131、138)」と総称する。
入力検出部301は、タッチスイッチ34上で行われた操作の種類を判別し、判別した結果に基づく制御信号を、制御部302、画像切替部306、及び送受信部308に出力する。タッチスイッチ34上で行われた操作の種類とは、発信の指示、及び受信の指示等である。入力検出部301は、タッチスイッチ34上の所定の領域がタッチされた場合、タッチされた領域に基づいて、これらの操作の種類を判別する。
制御部302は、加速度センサー132が検出した検出値、及び撮像素子72による撮像画像の少なくとも一方に基づいて、右眼観察形態又は右眼観察形態を判別する。ここで、制御部302は、撮像素子72による撮像画像については、例えば、眉毛と眼との相対位置、瞬きでの瞼の挙動、眉毛の輪郭、眼の輪郭、眼の左右の目尻の下がり方等に基づいて、撮像画像に映っているユーザーの眼が、左右どちらの眼の画像であるか(右眼観察形態又は右眼観察形態)を判別する。
制御部302は、判別した結果に基づいて、眼球照明ライト166の点灯及び消灯を制御する。また、制御部302は、判別した結果に基づいて、オーディオコネクター26に接続されているステレオイヤホン100に出力する音声を制御する。また、制御部302は、判別した結果に基づいて、表示部60から投影する画像を制御する。
制御部302は、入力検出部301が出力する制御信号と、撮像画像とに基づいて、注視点検出のためのキャリブレーション(補正)を行う。制御部302は、注視点検出のためのキャリブレーションにより生成した関係式、及び情報を、記憶部303に記憶させる。以下、この生成した関係式、及び情報を、「視線に基づいて操作するためのパラメータ」という。
制御部302は、表示部60の配置が適切であるか否かを、撮像画像に基づいて判別する。制御部302は、ユーザーの顔に対する表示部60の相対位置が適切でない場合、表示部60を適切な方向にずらすようにアナウンスする音声を、音声調整部305を介して耳元スピーカー23から出力させる。
制御部302は、ディスプレイ本体20がヘッドバンド40に装着されているか否か、すなわち、ディスプレイ本体20がユーザーの頭部の近傍に装着されているか否かを、ヘッドバンドセンサー151からの入力信号に基づいて判定する。
記憶部303には、制御部302が生成した、視線に基づいて操作するためのパラメータが記憶されている。
眼球照明部304は、制御部302の制御に基づいて、眼球照明ライト166a〜166dを、点灯または消灯させるように駆動する。
音声調整部305には、エンコーダー129が出力する音声データ(頭部装着型情報入出力装置1のユーザーの音声データ)、送受信部308が出力する受信信号が入力される。音声調整部305は、送受信部308が出力する受信信号から、他の端末のユーザーの音声データ(以下、他端末の音声データともいう)を抽出する。音声調整部305は、制御部302が出力する装着状態を示す情報に基づいて、エンコーダー129が出力する音声データ(頭部装着型情報入出力装置1のユーザーの音声データ)、又は、他の端末のユーザーの音声データに基づく音声を、ステレオイヤホン100の左右どちらのスピーカーに出力するのかを選択し、左右のスピーカーの各音量等を調整する。
画像切替部306は、入力検出部301が出力した制御信号に基づき、フラッシュメモリー122から読み出した画像データ、またはエンコーダー129が出力した画像データを取得する。画像切替部306は、取得した画像データの表示モードを、制御部302が出力した装着状態を示す情報に基づいて切り替え、切り替えた表示モードで、画像データを画像表示部307に出力する。ここで、表示モードとは、例えば、第1表示モード又は第2表示モードである。
画像切替部306は、送受信部308が出力した受信信号から、画像切替信号を抽出する。画像切替部306は、画像切替信号が抽出できた場合、抽出した画像切替信号に基づき、フラッシュメモリー122から読み出した画像データ、またはエンコーダー129が出力した画像データを、画像表示部307に出力する。また、画像切替部306は、入力検出部301が出力した制御信号に基づき、エンコーダー129から出力された画像データ、またはフラッシュメモリー122から読み出した画像データの解像度を変換し、変換した画像データを画像表示部307に出力する。
画像切替部306は、パスワード設定画面、及びメニュー画面等を、制御部302の指示に応じて表示パネル63に表示させる。
画像表示部307には、画像切替部306が出力した画像データが入力される。画像表示部307は、入力されたこれらの画像データに基づき、表示パネル63に表示する画像データを生成する。画像表示部307は、生成した画像データを、送受信部308、ビデオコネクター27、及びLCDドライバ125に出力する。
送受信部308は、入力検出部301が出力した制御信号に基づき、画像表示部307が出力した画像データを、通信インタフェース(131、138)を介して送信する。送受信部308は、通信インタフェース(131、138)を介して受信した受信信号を、画像切替部306に出力する。
このように、頭部装着型情報入出力装置(頭部装着型情報入出力装置1)は、画像を表示する表示部60(表示パネル63)と、ユーザーの眼の近傍に表示部を保持する保持部と、表示部60に設けられ、ユーザーの眼の近傍(予め定められた距離内)を照明する複数の照明部(眼球照明ライト166)と、ユーザーと表示部60との位置関係に応じて、複数の照明部の点灯状態を制御する制御部(制御部302)と、を備える。
この構成により、ユーザーの視線に基づいて操作するためのパラメータを事前に取得する場合、又は、ユーザーの視線に基づいて操作する場合、表示部60がユーザーの両眼に対して外側に配置されていても、ユーザーの眼には、光線が照射される。これにより、ユーザーの眼の左側、右側、下側又は上側に表示部を配置された場合でも、頭部装着型情報入出力装置は、ユーザーの視線(ユーザーが観察している画面上の位置)を検出することができる。
なお、ユーザーの眼の近傍に表示部60を保持する保持部には、ヘッドパット46、ヘッドバンド40、連結ピン41、ディスプレイ本体20、及び、ディスプレイ本体20の連結孔31等が含まれる。
図22は、非シースルーモードでのメニュー画面の一例を示す図である。非シースルーモードでは、メニュー画面400の表示内容の一例として、9個のアイコン画像(アイコン画像471〜アイコン画像479)が、メニュー画面400の全体に表示される。アイコン画像471〜アイコン画像479には、プログラム(アプリケーション)が、それぞれ対応付けられている。例えば、アイコン画像471は、動画を撮像するプログラムを起動するためのアイコン画像でもよい。
なお、メニュー画面400は、例えば、処理部123(図20を参照)の制御を司るOS(オペレーティングシステム)により各種設定を実行するためのメニュー画面でもよい。ここで、各種設定を実行するためのメニュー画面とは、例えば、表示パネル63(図8を参照)の輝度調整及びコントラスト調整、日時設定、スタンバイ状態にするか否かの設定等の各種設定ボタンが表示されている画面である。また、各種設定ボタンは、アイコン画像でもよいし、操作キーの画像でもよい。
また、メニュー画面400に表示されたアイコン画像に対応付けられたプログラムは、頭部装着型情報入出力装置1(図1を参照)により実行されるプログラムに限られなくてもよい。例えば、当該プログラムは、頭部装着型情報入出力装置1の通信先である他のHMD又はコンピュータにより実行されるプログラムでもよい。また、当該プログラムは、インターネット等のネットワーク上で実行されるウェブアプリケーション(Web Application Software)でもよい。
図23は、シースルーモードでのメニュー画面の一例を示す図である。シースルーモードでは、非シースルーモードと比較して縮小された9個のアイコン画像(アイコン画像471〜アイコン画像479)が、例えば、メニュー画面400の下側(図9に示された液晶93aに対応する領域)に表示される。ここで、ユーザーの視界を効果的に確保するため、アイコン画像は、低コントラストに表示されてもよい。
図24は、シースルーモードでユーザーが画面下に視線を振った場合でのメニュー画面の一例を示す図である。図24では、アイコン画像471〜アイコン画像479は、高コントラスト表示されている。また、ユーザーが見ているアイコン画像472は、強調表示(例えば、太枠を追加した表示)されている。また、液晶93の液晶93a(図9を参照)がオフ状態にされることにより、アイコン画像471〜アイコン画像479の背景は、暗く遮光される。
なお、液晶93がユーザーの眼の近傍に配置され、且つ、液晶93とユーザーの眼との間に拡大光学系が配置されていないため、液晶93の輪郭は、光学特性上、ユーザーには明瞭に見えない。また、右眼観察形態(図5(A)を参照)から、左眼観察形態(図5(B)を参照)に変更された場合、処理部123が、液晶93aの代わりに液晶93cをオン状態とすることにより、アイコン画像471〜アイコン画像479の背景は、暗く遮光される。
次に、処理部123の動作手順の例を説明する。
図25は、頭部装着型情報入出力装置の動作手順の例を示すフローチャートである。
(ステップS1)処理部123(図20を参照)は、ディスプレイ本体20(図1を参照)がヘッドバンド40に装着されているか否か、すなわち、ディスプレイ本体20がユーザーの頭部の近傍に装着されているか否かを判定する。
ここで、処理部123は、ヘッドバンドセンサー151からの入力信号に基づいて、ディスプレイ本体20がユーザーの頭部の近傍に装着されているか否かを判定する。また、処理部123は、心拍数センサー137により測定されたユーザーの頭部(頬部)の心拍に基づいて、ディスプレイ本体20がユーザーの頭部の近傍に装着されているか否かを判定してもよい。
ディスプレイ本体20がユーザーの頭部の近傍に装着されている場合(ステップS1:Yes)、処理部123は、ステップS2に処理を進める。一方、ディスプレイ本体20がユーザーの頭部の近傍に装着されていない場合(例えば、ユーザーが頭部装着型情報入出力装置1を手で保持している場合)(ステップS1:No)、処理部123は、ステップS13に処理を進める。
(ステップS2)処理部123は、ユーザーの視界を確保するため、液晶93(図9を参照)をシースルーモードにする。具体的には、処理部123は、液晶93の全領域に通電してオン状態にすることで、光束O(図8を参照)が液晶93を透過するようにする。
(ステップS3)処理部123は、ユーザーの周囲環境の明るさが所定値以上であるか否かを、カメラ64(図20を参照)の出力レベルに基づいて判定する。ユーザーの周囲環境(例えば、屋外)の明るさが所定値以上である場合(ステップS3:Yes)、処理部123は、ステップS4に処理を進める。一方、ユーザーの周囲環境(例えば、屋内)の明るさが前記所定値以上でない場合(ステップS3:No)、処理部123は、ステップS5に処理を進める。
(ステップS4)処理部123は、画面の全領域に対応する液晶93の液晶93a〜液晶93e(図9を参照)に通電する電圧を、所定電圧だけ下げることで、電圧が下げられた液晶93における光束O(図8を参照)の透過率を低下させる。これにより、処理部123は、ユーザーの視界を暗くして、メニュー画面を見やすくすることができる。なお、例えば、空だけが明るい場合、処理部123は、液晶93cに通電する電圧を所定電圧だけ下げることで、液晶93cにおける光束Oの透過率を低下させ、メニュー画面を部分的に暗くしてもよい。
(ステップS5)処理部123は、シースルーモードでのメニュー画面400(図23を参照)を、表示部60に表示させる。シースルーモードでは、非シースルーモードと比較して縮小されたアイコン画像が、メニュー画面400の下側に表示される。ここで、ユーザーの視界を効果的に確保するため、アイコン画像は、低コントラストに表示されてもよい。これにより、アイコン画像は、ユーザーの視界を隠すことなく、目障りになることがない。
(ステップS6)処理部123は、撮像素子72が撮像したユーザーの眼の画像に基づいて、ユーザーの視線を検出する。また、処理部123は、ユーザーの視線がいずれかのアイコン画像上に在るか否か、すなわち、ユーザーがいずれかのアイコン画像を見ているか否かを、ユーザーの視線に基づいて判定する。ユーザーがいずれかのアイコン画像を見ている場合(ステップS6:Yes)、処理部123は、ステップS7に処理を進める。一方、ユーザーがいずれかのアイコン画像も見ていない場合(ステップS6:No)、処理部123は、ステップS11に処理を進める。
(ステップS7)処理部123は、ユーザーが見ているアイコン画像472(図24を参照)を、表示部60(図1を参照)に強調表示させる。ここで、強調表示とは、例えば、太枠を追加した表示である。なお、処理部123は、ユーザーが操作スイッチ30(図2を参照)を操作することにより選択したアイコン画像を、表示部60に強調表示させてもよい。
(ステップS8)処理部123は、液晶93の液晶93a(図9を参照)をオフ状態にすることで、アイコン画像471〜アイコン画像479の背景を暗くさせる。すなわち、処理部123は、アイコン画像471〜アイコン画像479の背景を、非シースルーにする。また、処理部123は、アイコン画像471〜アイコン画像479を、表示部60に高コントラスト表示させる。これにより、ユーザーは、アイコン画像471〜アイコン画像479を見やすくなる。
(ステップS9)処理部123は、撮像素子72(図20を参照)が撮像したユーザーの眼の画像に基づいて、所定時間にユーザーが眼を2回瞬きしたか否かを判定する。ここで、前記所定時間にユーザーが眼を2回瞬きしたことが、ユーザーが見ているアイコン画像に対応するプログラム(アプリケーション)を起動させる指示であることは、予め定められているものとする。前記所定時間にユーザーが眼を2回瞬きした場合(ステップS9:Yes)、処理部123は、ステップS10に処理を進める。一方、前記所定時間にユーザーが眼を2回瞬きしていない場合(ステップS9:No)、処理部123は、ステップS6に処理を戻す。
(ステップS10)処理部123は、ユーザーが見ているアイコン画像に対応するプログラム(アプリケーション)を起動させて実行する。
(ステップS11)処理部123は、アイコン画像の強調表示を解除する。
(ステップS12)処理部123は、液晶93の液晶93a(図9を参照)をオン状態にすることで、アイコン画像471〜アイコン画像479の背景を元に戻す。すなわち、処理部123は、アイコン画像471〜アイコン画像479の背景を、シースルーにする。処理部123は、ステップS1に処理を戻す。
(ステップS13)処理部123は、ユーザーの頭部が急に移動若しくは回転したか否か(ユーザーの周囲で何らかの変化があったか否か)を、加速度センサー132(図20を参照)が検出した加速度を示す検出値に基づいて判定する。また、処理部123は、ディスプレイ本体20(図1を参照)が移動中であるか否かを、GPSセンサー135(図20を参照)の出力値に基づいて判定する。
ここで、ディスプレイ本体20が移動中である場合とは、例えば、ヘッドバンド40から外されたディスプレイ本体20が、ユーザーの手に持たれている状態、又はポケットなどに入れられている状態で、ユーザーと共に移動中である場合である。この場合、メニュー画面400(図22を参照)が非シースルーモードで表示されていることにより、ユーザーの視界が遮られているとしても、ユーザーは、例えば、何らかの緊急の場合に、手に持っているディスプレイ本体20を視界からすぐに外し、視野を確保することができる。したがって、処理部123は、頭部装着型情報入出力装置1の使い勝手を低下させることがない。
ディスプレイ本体20が移動中である、又は、ユーザーの頭部が急に移動若しくは回転した場合(ステップS13:Yes)、処理部123は、ステップS2に処理を戻す。一方、ディスプレイ本体20が移動中でない、且つ、ユーザーの頭部が急に移動若しくは回転していない場合(ステップS13:No)、処理部123は、ステップS14に処理を進める。
(ステップS14)処理部123は、液晶93(図9を参照)を非シースルーモードにする。具体的には、処理部123は、液晶93の全領域をオフ状態にすることで、光束O(図8を参照)が液晶93を透過しないようにする。
(ステップS15)処理部123は、非シースルーモードでのメニュー画面400(図22を参照)を、表示部60に表示させる。非シースルーモードでは、シースルーモードと比較して拡大されたアイコン画像が、メニュー画面400の全面に表示される。
(ステップS16)処理部123は、撮像素子72が撮像したユーザーの眼の画像に基づいて、ユーザーの視線を検出する。また、処理部123は、ユーザーの視線がいずれかのアイコン画像上に在るか否か、すなわち、ユーザーがいずれかのアイコン画像を見ているか否かを、ユーザーの視線に基づいて判定する。ユーザーがいずれかのアイコン画像を見ている場合(ステップS16:Yes)、処理部123は、ステップS17に処理を進める。一方、ユーザーがいずれかのアイコン画像も見ていない場合(ステップS16:No)、処理部123は、ステップS20に処理を進める。
(ステップS17)処理部123は、ユーザーが見ている(選択している)アイコン画像472(図24を参照)を、表示部60(図1を参照)に強調表示させる。ここで、強調表示とは、例えば、太枠を追加した表示である。
(ステップS18)処理部123は、撮像素子72(図20を参照)が撮像したユーザーの眼の画像に基づいて、所定時間にユーザーが眼を2回瞬きしたか否かを判定する。ここで、前記所定時間にユーザーが眼を2回瞬きしたことが、ユーザーが見ているアイコン画像に対応するプログラム(アプリケーション)を起動させる指示であることは、予め定められているものとする。前記所定時間にユーザーが眼を2回瞬きした場合(ステップS18:Yes)、処理部123は、ステップS19に処理を進める。一方、前記所定時間にユーザーが眼を2回瞬きしていない場合(ステップS18:No)、処理部123は、ステップS16に処理を戻す。
(ステップS19)処理部123は、ユーザーが見ている(選択した)アイコン画像に対応するプログラム(アプリケーション)を起動させて実行する。
(ステップS20)処理部123は、アイコン画像の強調表示を解除する。また、処理部123は、ステップS13に処理を戻す。
以上のように、頭部装着型情報入出力装置1は、光の透過率が液晶93(図9を参照)により可変である画面(ファインダー開口部67)に、画像を表示する表示部60と、表示部60の状態を検出する検出部(例えば、撮像素子72、カメラ64、加速度センサー132、角速度センサー134、GPSセンサー135、心拍数センサー137、ヘッドバンドセンサー151)と、表示部60の状態に応じて前記画面の前記透過率を定め、前記透過率を前記所定閾値以上に定めた場合、第1表示パターン(図23を参照)により前記画面に画像を表示させ、前記透過率を前記所定閾値未満に定めた場合、第2表示パターン(図22を参照)により前記画面に画像を表示させる処理部123と、を備える。
この構成により、処理部123は、表示部60の状態に応じて、前記画面の前記透過率を定める。すなわち、処理部123は、頭部装着型情報入出力装置1の使用状態に応じて、シースルーモードと非シースルーモードとを切り替える。また、処理部123は、定めた透過率に応じて、画像の表示パターン(表示内容)を切り替える。これにより、頭部装着型情報入出力装置1は、使い勝手を向上させることができる。例えば、頭部装着型情報入出力装置1は、頭部装着型情報入出力装置1の使用状態に応じて、ユーザーの視界を確保しつつ、メニュー画面を表示することができる。
また、表示部60は、液晶93(図9を参照)により、前記画面の部分領域毎に、前記透過率が可変であり、処理部123は、前記第1表示パターン(図23を参照)により前記画面に画像を表示させる場合、前記第1表示パターンに対応する前記部分領域における前記透過率を低下させる(図24を参照)。
この構成により、頭部装着型情報入出力装置1は、画面の部分領域を、非シースルーモードに切り替える。これにより、頭部装着型情報入出力装置1は、見やすいメニュー画面を提供することができる。
また、前記検出部(例えば、撮像素子72、処理部123)は、前記部分領域にユーザーの視線が向けられているか否かを検出し、処理部123は、前記部分領域にユーザーの視線が向けられている場合、前記部分領域における、前記透過率、又は前記画像のコントラストを変更する(図24を参照)。
また、前記検出部(例えば、心拍数センサー137)は、表示部60とユーザーの頭部との位置関係を、表示部60の状態として検出する。
また、前記検出部(例えば、ヘッドバンドセンサー151)は、表示部60を装着するための装着部(例えば、連結ピン41)と表示部60とが結合しているか否かを、表示部60の状態として検出する。
また、前記検出部(例えば、カメラ64、加速度センサー132、角速度センサー134、GPSセンサー135)は、例えば、ユーザーの頭部に装着された表示部60の移動又は回転を、表示部60の状態として検出する。
また、頭部装着型情報入出力装置1は、光の透過率が液晶93(図9を参照)により可変である画面(ファインダー開口部67)に、画像を表示する表示部60と、表示部60の状態を検出する検出部(例えば、ヘッドバンドセンサー151、加速度センサー132、角速度センサー134、及び、GPSセンサー135)と、表示部60の状態に応じて、前記画面の前記透過率を定める処理部123と、を備える。
この構成により、処理部123は、表示部60の状態に応じて前記画面の前記透過率を定める。すなわち、処理部123は、頭部装着型情報入出力装置1の使用状態に応じて、シースルーモードと非シースルーモードとを切り替える。これにより、頭部装着型情報入出力装置1は、使い勝手を向上させることができる。例えば、頭部装着型情報入出力装置1は、頭部装着型情報入出力装置1の使用状態に応じて、ユーザーの視界を確保することができる。
また、頭部装着型情報入出力装置1における頭部装着型情報入出力方法であって、光の透過率が液晶93(図9を参照)により可変である表示部60の画面(ファインダー開口部67)に、画像を表示する手順と、表示部60の状態を検出する手順と、表示部60の状態に応じて前記画面の前記透過率を定め、前記透過率を前記所定閾値以上に定めた場合、第1表示パターン(図23を参照)により前記画面に画像を表示させ、前記透過率を前記所定閾値未満に定めた場合、第2表示パターン(図22を参照)により前記画面に画像を表示させる手順と、を含む。
[第2実施形態]
第2実施形態では、表示部60とユーザーの眼との位置関係に応じてメニュー画面が変更される点が、第1実施形態と相違する。以下では、第1実施形態との相違点についてのみ説明する。
処理部123は、ユーザーの眼の周辺画像に基づいて、表示部60とユーザーの眼との位置関係を検出し、検出した位置関係に応じて、液晶93に対してシースルーモード及び非シースルーモードを切り替える。ここで、処理部123は、ユーザーの眼と表示部60との位置関係に基づいて、メニュー画面の表示内容(例えば、アイコン画像の配置)を変更してもよい。また、処理部123は、ユーザーの眼と表示部60との位置関係に基づいて、液晶93の一部領域又は全領域を、非シースルーモードにさせてもよい。
図26は、撮像されたユーザーの眼の例を示す図である。図26(A)には、表示部60がユーザーの右眼の正面にあり且つ近傍にある場合における、右眼の周辺画像が示されている。処理部123は、表示部60がユーザーの右眼の正面にあるか否かを、右眼の周辺画像に対する画像認識により判定する。また、処理部123は、表示部60がユーザーの右眼の近傍にあるか否かを、右眼の幅L81が所定値以上であるか否かに基づいて判定する。表示部60がユーザーの右眼の正面にあり且つ近傍にある場合、ユーザーの視界が表示部60に覆われている割合は、相対的に大きい。この場合、液晶93が非シースルーモードのままでは、ユーザーの視界は確保されない。
また、図26(B)には、表示部60がユーザーの右眼の正面にあり且つ近傍にない場合における、右眼の周辺画像が示されている。処理部123は、表示部60がユーザーの右眼の正面にあるか否かを、右眼の周辺画像に対する画像認識により判定する。また、処理部123は、表示部60がユーザーの右眼の近傍にあるか否かを、右眼の幅L91が所定値以上であるか否かに基づいて判定する。表示部60がユーザーの右眼の正面にあり且つ近傍にない場合、ユーザーの視界が表示部60に覆われている割合は、相対的に小さい。この場合、液晶93が非シースルーモードのままでも、ユーザーの視界は確保される。
また、図26(C)には、表示部60がユーザーの右眼の正面でなく下側にある場合における、右眼の周辺画像が示されている。処理部123は、表示部60がユーザーの右眼の正面でなく下側にあるか否かを、右眼の周辺画像に対する画像認識により判定する。また、処理部123は、表示部60がユーザーの右眼の近傍にあるか否かを、右眼の幅L101が所定値以上であるか否かに基づいて判定する。表示部60がユーザーの右眼の正面でなく下側にある場合、ユーザーの視界が表示部60に覆われている割合は、相対的に小さい。この場合、液晶93が非シースルーモードのままでも、ユーザーの視界は確保される。
図27は、頭部装着型情報入出力装置の動作手順の例を示すフローチャートである。
(ステップSa1)処理部123は、表示部60がユーザーの眼の正面にあり且つ近傍にあるか否かを判定する。表示部60がユーザーの眼の正面にあり且つ近傍にある場合(ステップSa1:Yes)、処理部123は、ステップSa2に処理を進める。一方、表示部60がユーザーの眼の正面にない又は近傍にない場合(ステップSa1:No)、処理部123は、ステップSa13に処理を進める。
(ステップSa2)処理部123は、ユーザーの視界を確保するため、液晶93(図9を参照)をシースルーモードにする。具体的には、処理部123は、液晶93の全領域に通電してオン状態にすることで、光束O(図8を参照)が液晶93を透過するようにする。
(ステップSa3)処理部123は、カメラ64(図20を参照)が撮像した画像に、明るさが所定値以上である画面領域があるか否かを判定する。明るさが所定値以上である画面領域がある場合(ステップSa3:Yes)、処理部123は、ステップSa4に処理を進める。一方、明るさが前記所定値以上である画面領域がない場合(ステップSa3:No)、処理部123は、ステップSa5に処理を進める。
(ステップSa4)処理部123は、明るさが前記所定値以上である画面領域(例えば、空からの光束が透過する画面領域)に対応する、液晶93a〜液晶93e(図9を参照)に通電する電圧を、所定電圧だけ下げることで、液晶93a〜液晶93eのうち電圧が下げられた液晶における光束O(図8を参照)の透過率を低下させる。
ステップSa5〜ステップSa20は、図25に示されたステップS5〜ステップS20と同様である。
以上のように、検出部(例えば、撮像素子72、処理部123)は、表示部60とユーザーの眼との位置関係(例えば、図5、図17及び図26を参照)を、表示部60の状態として検出する。
この構成により、処理部123は、表示部60の状態に応じて、前記画面の前記透過率を定める。すなわち、処理部123は、頭部装着型情報入出力装置1の使用状態に応じて、シースルーモードと非シースルーモードとを切り替える。また、処理部123は、定めた透過率に応じて、画像の表示パターンを切り替える。これにより、頭部装着型情報入出力装置1は、使い勝手を向上させることができる。例えば、頭部装着型情報入出力装置1は、頭部装着型情報入出力装置1の使用状態に応じて、ユーザーの視界を確保しつつ、メニュー画面を表示することができる。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
例えば、上記の情報出力装置は、頭部装着型以外に適用されてもよい。また、例えば、シースルーモード及び非シースルーモードの切り替えは、ユーザーが手動で操作したタッチスイッチ34(図20を参照)を介した操作入力に基づいて、切り替えられてもよい。また、例えば、メニュー画面の表示は、ユーザーが手動で操作したタッチスイッチ34(図20を参照)を介した操作入力に基づいて、切り替えられてもよい。
また、例えば、ユーザーの眼の下側に表示部60が配置されている場合において、処理部123は、ユーザーが表示部60を注視していない場合、液晶93をシースルーモードとし、一方、ユーザーが表示部60を注視している場合、ユーザーの視線に応じて、液晶93の一部領域又は全領域を、非シースルーモードにさせてもよい。
なお、上記に説明した頭部装着型情報入出力装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバーやクライアントとなるコンピュータシステム内部の揮発性メモリーのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
1…頭部装着型情報入出力装置、20…ディスプレイ本体、26…オーディオコネクター、34…タッチスイッチ、60…表示部、63…表示パネル(表示部)、64…カメラ、72…撮像素子(撮像部)、100…イヤホン、103…第1スピーカー、104…第2スピーカー、121…デコーダー、123…処理部、131…WiFi通信回路、132…加速度センサー、133…地磁気センサー、137…心拍数センサー、138…3G/LTE通信回路、151…ヘッドバンドセンサー、166a〜166h…眼球照明ライト、301…入力検出部、302…制御部、303…記憶部、304…眼球照明部、305…音声調整部、306…画像切替部、307…画像表示部、308…送受信部

Claims (8)

  1. 入射する光の透過率が変化する光学素子を有し、操作を指示するための画像を表示する表示部と、
    前記光学素子が第1の透過率であるときに前記表示部に表示される前記画像と前記第1の透過率と異なる第2の透過率であるときに前記表示部に表示される前記画像の大きさまたは表示される位置のうち少なくとも一方が異なるように前記表示部を制御する制御部と
    を備える電子機器。
  2. 前記制御部は、前記第1の透過率が前記第2の透過率より高いと、前記第1の透過率のときの前記画像が前記第2の透過率のときの前記画像よりも大きくなるように前記表示部を制御する請求項1に記載の電子機器。
  3. 前記制御部は、前記第2の透過率が前記第1の透過率より低いと、前記第2の透過率のときの前記画像が前記第1の透過率のときの前記画像よりも小さくなるように前記表示部を制御する請求項1に記載の電子機器。
  4. 前記制御部は、前記第1の透過率が前記第2の透過率より高いと、前記第1の透過率のときの前記画像が表示される位置を前記第2の透過率のときの前記画像が表示される位置よりも前記表示部の中央に近い位置にするように前記表示部を制御する請求項1又は請求項2に記載の電子機器。
  5. 前記制御部は、前記第2の透過率が前記第1の透過率より低いと、前記第2の透過率のときの前記画像が表示される位置を前記第1の透過率のときの前記画像が表示される位置よりも前記表示部の端に近い位置にするように前記表示部を制御する請求項1又は請求項3に記載の電子機器。
  6. 前記画像は、前記操作に対応するアプリケーションの選択を行うためのメニュー画像である請求項1から5のいずれか一項に記載の電子機器。
  7. 前記制御部は、前記画像が選択されると前記画像に対応する操作を行うように制御する請求項6に記載の電子機器。
  8. 請求項1から7のいずれか一項に記載の電子機器と、
    前記電子機器を頭部に装着する装着部と
    を備える表示装置。
JP2012176909A 2012-08-09 2012-08-09 電子機器、及び表示装置 Active JP6015223B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012176909A JP6015223B2 (ja) 2012-08-09 2012-08-09 電子機器、及び表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012176909A JP6015223B2 (ja) 2012-08-09 2012-08-09 電子機器、及び表示装置

Publications (3)

Publication Number Publication Date
JP2014035668A JP2014035668A (ja) 2014-02-24
JP2014035668A5 JP2014035668A5 (ja) 2015-09-24
JP6015223B2 true JP6015223B2 (ja) 2016-10-26

Family

ID=50284628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012176909A Active JP6015223B2 (ja) 2012-08-09 2012-08-09 電子機器、及び表示装置

Country Status (1)

Country Link
JP (1) JP6015223B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016104279A1 (ja) * 2014-12-26 2016-06-30 シャープ株式会社 表示装置およびウェアラブルデバイス
JP6380091B2 (ja) * 2014-12-26 2018-08-29 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6892213B2 (ja) * 2015-04-30 2021-06-23 ソニーグループ株式会社 表示装置及び表示装置の初期設定方法
WO2021030770A1 (en) 2019-08-15 2021-02-18 Magic Leap, Inc. Ghost image mitigation in see-through displays with pixel arrays

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4379438B2 (ja) * 2006-06-09 2009-12-09 株式会社ニコン 画像表示装置
JP5309448B2 (ja) * 2007-01-26 2013-10-09 ソニー株式会社 表示装置、表示方法
JP2010237884A (ja) * 2009-03-31 2010-10-21 Brother Ind Ltd 表示制御装置、表示制御方法、表示制御プログラム

Also Published As

Publication number Publication date
JP2014035668A (ja) 2014-02-24

Similar Documents

Publication Publication Date Title
US20150009309A1 (en) Optical Frame for Glasses and the Like with Built-In Camera and Special Actuator Feature
US10782528B2 (en) Head mounted display and control method thereof
JP6318462B2 (ja) 表示装置
JP6123180B2 (ja) 表示装置
JP2014021707A (ja) 情報入出力装置、及び情報入出力方法
JP6011072B2 (ja) 制御装置、及びプログラム
JP2013190941A (ja) 情報入出力装置、及び頭部装着表示装置
JP2016206374A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2018142168A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
KR20220148921A (ko) 근육 센서들을 사용하여 안면 표정을 결정하는 안경류
JP2018142857A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP2019128693A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
JP6136090B2 (ja) 電子機器、及び表示装置
JP2019082891A (ja) 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム
JP2018124721A (ja) 頭部装着型表示装置、及び頭部装着型表示装置の制御方法
JP6015223B2 (ja) 電子機器、及び表示装置
CN116420105A (zh) 用于增强现实护目镜中的计算机视觉模式的低功耗相机管线
JP2014044654A (ja) 情報入出力装置
JP2014021272A (ja) 情報入出力装置、及び情報入出力方法
JP2013175947A (ja) 頭部装着装置
JP6719418B2 (ja) 電子機器
JP2014022937A (ja) 頭部装着型情報入出力装置、及び頭部装着型情報入出力方法
JP6996115B2 (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP2013174730A (ja) 情報表示装置
JP2014022942A (ja) 頭部装着装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150806

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160912

R150 Certificate of patent or registration of utility model

Ref document number: 6015223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250