JP6598317B2 - 画像表示装置および画像表示方法 - Google Patents

画像表示装置および画像表示方法 Download PDF

Info

Publication number
JP6598317B2
JP6598317B2 JP2017566547A JP2017566547A JP6598317B2 JP 6598317 B2 JP6598317 B2 JP 6598317B2 JP 2017566547 A JP2017566547 A JP 2017566547A JP 2017566547 A JP2017566547 A JP 2017566547A JP 6598317 B2 JP6598317 B2 JP 6598317B2
Authority
JP
Japan
Prior art keywords
information
unit
image display
image
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017566547A
Other languages
English (en)
Other versions
JPWO2017138278A1 (ja
Inventor
陽次郎 堤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Publication of JPWO2017138278A1 publication Critical patent/JPWO2017138278A1/ja
Application granted granted Critical
Publication of JP6598317B2 publication Critical patent/JP6598317B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80Arrangements for controlling instruments
    • B60K35/81Arrangements for controlling instruments for controlling displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/146Instrument input by gesture
    • B60K2360/14643D-gesture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/166Navigation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/167Vehicle dynamics information
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/169Remaining operating distance or charge
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/177Augmented reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0181Adaptation to the pilot/driver

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • General Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Instrument Panels (AREA)

Description

本発明は、画像表示装置および画像表示方法に関する。
本願は、2016年2月12日に出願された日本国特願2016−025244号に基づき優先権を主張し、その内容をここに援用する。
近年、頭部に装着して使用する画像表示装置の開発が進められている。このような画像表示装置は、目を覆う非透過型や、目を覆わない透過型がある。非透過型では、画像のみが表示部に表示される。このため、利用者は、画像のみを視認することができる。透過型では、表示部が例えばハーフミラーである。このため、利用者は、外界の像と画像を視認することができる。
このような画像表示装置は、利用者の頭部に装着されるため、利用者が頭部を動かしたとき、外界または画像が見づらくなる場合があった。これに対して、利用者が頭部を動かした場合にも画像である文字情報を確実に伝達できる画像表示装置が提案されている(例えば、特許文献1参照)。
日本国特開2007−134785号
しかしながら、特許文献1に記載の技術では、頭部の動きに応じて画像データを変更して表示することで、利用者が頭部を動かした場合にも画像である文字情報を確実に伝達できても、利用者の意志に基づいて表示される情報を変更することができなかった。
本発明に係る態様は、上記の点に鑑みてなされたものであり、画像表示装置の動きに応じて表示される情報を変更することができる画像表示装置および画像表示方法を提供することを目的とする。
上記技術課題を解決して係る目的を達成するために、本発明は以下の態様を採用した。
(1)本発明に係る一態様の画像表示装置は、2つ以上の情報を取得する取得部と、画像表示装置の加速度、方位および角速度のうち少なくとも1つを検出する検出部と、当該画像表示装置の状態を検出するための方位の閾値と所定時間とを状態毎に記憶し、当該画像表示装置の動作を検出するための方位の閾値と所定時間とを姿勢毎に記憶する記憶部と、前記検出部が検出した結果と前記記憶部が記憶する情報とに基づいて、前記画像表示装置の状態を判定し、前記判定した前記画像表示装置の状態に応じて、前記取得部が取得した前記2つ以上の情報から選択する情報を切り替え、前記切り替えた情報に基づく表示データを生成する画像変更部と、前記表示データを表示する表示部と、を備え、前記画像変更部は、前記検出部が検出した結果と前記記憶部が記憶する情報とに基づいて前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行ったことを判別し、前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行った場合に付加情報を生成する。
(2)上記(1)の態様において、前記画像変更部は、前記画像表示装置の前記基準姿勢に対する上下、左右、斜め方向のうち少なくとも1つに関する前記画像表示装置の状態を、前記検出部が検出した結果に基づいて判定するようにしてもよい。
)の態様において、前記画像変更部は、前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行った場合に付加情報を生成してもよい。
)上記()の態様において、前記付加情報は、前記画像表示装置が利用されている状況に応じた情報であってもよい。
)上記()または()の態様において、前記画像表示装置の利用者が車両に乗車している場合、前記取得部は、前記車両から前記車両に関する情報を取得し、前記付加情報は、前記車両に関する情報であってもよい。
)本発明に係る一態様の画像表示方法は、画像表示装置の姿勢を検出するための方位の閾値と所定時間とを姿勢毎に記憶し、当該画像表示装置の動作を検出するための方位の閾値と所定時間とを姿勢毎に記憶する記憶部を備える当該画像表示装置の画像表示方法であって、2つ以上の情報を取得する取得手順と、前記画像表示装置の加速度、方位および角速度のうち少なくとも1つを検出する検出手順と、前記検出手順によって検出された結果と前記記憶部が記憶する情報とに基づいて、前記画像表示装置の状態を判定し、前記判定した前記画像表示装置の状態に応じて、前記取得手順によって取得された前記2つ以上の情報から選択する情報を切り替え、前記切り替えた情報に基づく表示データを生成する画像変更手順と、前記表示データを表示する表示手順と、前記検出手順によって検出された結果と前記記憶部が記憶する情報とに基づいて前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行ったことを判別する往復運動判別手順と、を含み前記画像変更手順において、前記往復運動判別手順で判別した結果、前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行った場合に付加情報を生成する。
上記(1)または()の態様によれば、画像表示装置の簡易な動作により複数の表示データの変更が可能となる。
上記(2)の場合、画像表示装置の簡易な動作により、より多くの表示データを選択的に表示可能となる。
上記()の場合、動作パターンに応じて異なる情報の表示が可能となる。
上記()の場合、画像表示装置が利用されている状況に応じた付加情報の表示を画像表示装置の動作に応じて切り替えることができる。
上記()の場合、画像表示装置に車両に関する情報を表示することができ、表示する情報を画像表示装置の動作に応じて切り替えることができる。
第1実施形態に係るHMDの概略構成を示すブロック図である。 第1実施形態に係るHMDの外観の一例を示す図である。 第1実施形態に係る記憶部が記憶する状態に関する検出値の一例を示す図である。 第1実施形態に係る記憶部が記憶する動作に関する検出値の一例を示す図である。 第1実施形態に係る表示部に表示される情報の一例を示す図である。 第1実施形態に係る閾値の学習と表示画像の変更処理のフローチャートである。 第2実施形態に係るHMDの概略構成を示すブロック図である。 第2実施形態に係る表示部に表示される情報の一例を示す図である。
以下、図面を参照しながら本発明の実施形態について説明する。また、以下の説明では、画像表示装置として、眼鏡型のヘッドマウントディスプレイ(以下、HMDという)を例にして説明を行う。
[第1実施形態]
図1は、本実施形態に係るHMD1の概略構成を示すブロック図である。
図1に示すように、HMD1は、操作部10、取得部11、検出部12、情報変更部13、および表示部14を備えている。また、検出部12は、磁気センサー121(検出部)、加速度センサー122(検出部)、角速度センサー123(検出部)を備えている。
また、情報変更部13は、記憶部131、制御部132、および画像変更部133を備えている。
操作部10は、例えば機械式スイッチ、タッチパネル式スイッチ等を含む。操作部10は、利用者が操作した結果を検出し、検出した操作指示を制御部132に出力する。なお、HMD1は、操作部10を備えていなくてもよい。この場合、HMD1は、取得部11が外部装置(不図示)から操作指示を取得し、取得した操作指示を制御部132に出力するようにしてもよい。なお、外部装置は、例えば、スマートフォン等の携帯端末、リモート・コントローラ等である。また、操作指示は、例えば、HMD1の電源をオン状態又はオフ状態にする指示、学習モードを行う指示、表示部14に情報を表示するか否かの指示、HMD1がどのような状態の時にどの情報を表示させるかの指示等である。なお、学習モードとは、下向き状態、縦振り動作、横振り動作を判別するための閾値と所定時間の学習を行うモードである。下向き状態とは、利用者がうつむいた状態である。縦振り動作とは、利用者がうなずくように数回、頭を縦方向に振った状態である。横振り動作とは、利用者が頭を左右方向に数回振った状態である。
取得部11は、有線通信方式および無線通信方式のうち少なくとも1つを含む。取得部11は、外部装置から情報を取得し、取得した情報を画像変更部133に出力する。なお、外部装置から取得する情報は、例えば目的地までのナビゲーション情報、現在地や目的地の天気予報の情報、今日のスケジュールの情報等である。また、取得部11は、外部装置から操作指示を取得した場合、取得した操作指示を制御部132に出力する。
検出部12は、HMD1の状態を検出し、検出した状態情報を制御部132に出力する。なお、HMD1の状態とは、HMD1の傾き、HMD1の動き、HMD1の方位等である。また、状態情報には、方位を示す情報、加速度方向を示す情報、角速度を示す情報のうち少なくとも1つが含まれている。
磁気センサー121は、例えば地磁気センサーであり、HMD1の方位を検出する。磁気センサー121は、検出した検出値を制御部132に出力する。
加速度センサー122は、例えば3軸センサーであり、HMD1の傾きを検出する。加速度センサー122は、重力加速度に基づいて加速度方向を検出し、検出した検出値を制御部132に出力する。
角速度センサー123は、例えばジャイロセンサーであり、HMD1の回転を検出する。角速度センサー123は、検出した検出値を制御部132に出力する。
情報変更部13は、検出部12が検出した結果に基づいて、HMD1の状態(例えば、HMD1の静止状態や動作状態等)を判定し、判定したHMD1の状態に応じて、取得部11が取得した2つ以上の情報から選択する情報を切り替え、切り替えた情報に基づく表示データを生成する。
記憶部131は、HMD1が利用者に装着されているとき、下向き状態であることを検出する閾値と所定時間、縦振り動作であることを検出する閾値と所定時間、横振りであることを検出する閾値と所定時間を記憶する。記憶部131は、通常状態の時に表示する画像の種類を示す情報、下向き状態のときに表示する画像の種類を示す情報、縦振り動作のときに表示する画像の種類を示す情報、横振り動作のときに表示する画像の種類を示す情報を記憶する。なお、通常状態とは、利用者がHMD1を頭部に装着し、例えば正面方向を向いている状態である。
制御部132は、操作部10または取得部11が出力した操作指示を取得する。制御部132は、検出部12が出力した検出値を取得する。制御部132は、取得した操作指示に含まれる学習モードを行う指示に応じて、取得した検出値を用いて、HMD1の各状態(含む各動作)それぞれの閾値と所定時間の学習を行い、学習した閾値と所定時間を記憶部131に記憶させる。なお、HMD1の状態とは、利用者が頭部にHMD1を装着した状態して上を向いている状態(以下、上向き状態)、正面を向いている状態(以下、正面状態)、左を向いている状態(以下、左向き状態)、右を向いている状態(以下、右向き状態)、左上を向いている状態(以下、左上向き状態)、右上を向いている状態(以下、右上向き状態)、左下を向いている状態(以下、左下向き状態)、右下を向いている状態(以下、右下向き状態)である。また、HMD1の動作とは、利用者が頭部にHMD1を装着した状態して正面から下を向く運動、上向きから正面を向く運動、上向きから下を向く運動、正面から左を向く運動である。なお、学習モードのときの処理については、後述する。
また、制御部132は、画像表示を行うことを設定する指示を取得した場合、表示部14に端末3から取得した表示情報に基づく画像を表示する表示指示を生成し、生成した表示指示を画像変更部133に出力する。制御部132は、画像表示を行わないことを設定する指示を取得した場合、表示部14に端末3から取得した表示情報に基づく画像を表示しない非表示指示を生成し、生成した非表示指示を画像変更部133に出力する。
さらに、制御部132は、取得した検出値と記憶部131が記憶する閾値と所定時間に基づいて、HMD1の状態(含む動作)を判別する。ここで、制御部132は、磁気センサー121の検出値と角速度センサー123の検出値を用いて状態(方向)の変化を算出する。また、制御部132は、磁気センサー121の検出値と角速度センサー123の検出値を用いて計算した方位の時間変化に基づいて、動作を判別する。なお、制御部132は、角速度センサー123の検出値を用いて、動作を判別するようにしてもよい。制御部132は、下向き状態の期間が第1所定時間継続した場合、下向き状態であると判別して、判別結果を画像変更部133に出力する。制御部132は、正面から下を向く動作、上向きから正面を向く動作、および上向きから下を向く動作のうち少なくとも1つの動作が、第2所定時間内に第1所定回数検出した場合、縦振り動作であると判別して、判別結果を画像変更部133に出力する。制御部132は、正面から右を向く動作および正面から左を向く動作を第3所定時間内に第2所定回数検出した場合、横振り動作であると判別して、判別結果を画像変更部133に出力する。
画像変更部133は、取得部11が出力した情報を取得する。また、画像変更部133は、制御部132が出力した判別結果を取得する。画像変更部133は、取得した判別結果に応じて取得した情報のうちの少なくとも1つを選択し、選択した情報を用いて表示部14に表示する画像を生成する。画像変更部133は、制御部132が表示指示を出力した場合、生成した画像を表示部14に出力する。画像変更部133は、制御部132が非表示指示を出力した場合、生成した画像を表示部14に出力しない。
表示部14は、画像を投影する投影部と、例えばホログラムを利用した透過型のディスプレイを含んで構成される。表示部14は、外界光を透過し、画像変更部133が出力した画像を、ホログラムを用いて表示する。なお、表示部14は、HMD1が眼鏡型の場合、左右両方または左右の一方が備えていてもよい。
図2は、本実施形態に係るHM1の外観の一例を示す図である。
以下、利用者が地表に対して直立してHMD1を頭部に装着した場合、加速度センサー122の座標は、利用者から見て上下方向をz軸方向、左右方向をx軸方向、前後方向をy軸方向とする。加速度センサー122は、図2に示すように、例えばZ軸方向の検出値が負方向であるように取り付けられている。
図2に示すように、本実施形態のHMD1は眼鏡型である。HMD1は、左右に表示部14R及び14L、鼻あて102R及び102L、ブリッジ103、テンプル101R及び101Lを備えて構成されている。検出部12は、左右のテンプル101R及び101L内に取り付けられ、操作部10と取得部11と記憶部131と制御部132と画像変更部133は、左側のテンプル101L内に取り付けられている。なお、図2に示した構成は一例であり、操作部10、取得部11、検出部12、記憶部131、制御部132、及び画像変更部133が取り付けられている箇所は、これに限られない。
<学習モードのときの処理>
次に、学習モードのときの処理、HMD1の状態判別について説明する。
学習モードを行う指示を取得したとき、制御部132は、最初に各状態を利用者に促し、上向き状態、正面状態、左向き状態、右向き状態、左上向き状態、右上向き状態、左下向き状態、右下向き状態それぞれの検出部12の検出値を取得する。制御部132は、各状態の検出値を学習することで、各状態における磁気センサー121の検出値の閾値と所定時間、加速度センサー122の検出値の閾値と所定時間を決定する。なお、制御部132は、各状態における角速度センサー123の閾値と所定時間も決定するようにしてもよい。
ここで、状態を学習する学習モードのとき、制御部132が行う処理の一例を説明する。
制御部132は、HMD1の状態に関する動作を行うことを促す指示、例えば上向き状態を促す指示を画像変更部133に出力する。画像変更部133は、上向き状態を促す指示に基づく情報を表示部14に表示する。上向き状態を促す指示に基づく情報とは、例えば『頭を上に向けてください』である。利用者は、表示部14に表示された情報に応じた姿勢を、所定時間(例えば2秒以上)継続する。制御部132は、指示を表示部14に表示している期間の各センサーの検出値と各状態が維持されている時間を取得する。制御部132は、学習のため、各状態について、例えば5回の動作を促し、5回の動作時に取得した検出値を用いて各状態の検出値を学習することで、各状態における磁気センサー121、加速度センサー122それぞれの検出値の閾値を決定する。また、制御部132は、各状態が維持されている時間に基づいて、各状態を判別するための所定時間を決定する。
なお、制御部132は、利用者が状態の学習開始時と終了時に操作部10を操作した結果に基づいて判別してもよく、各センサーの検出値が維持されている期間を状態が維持されている期間としてもよい。
学習モードを行う指示を取得したとき、制御部132は、次に利用者に各動作を促し、利用者が頭部にHMD1を装着した状態して正面から下を向く運動、上向きから正面を向く運動、上向きから下を向く運動、正面から左を向く運動それぞれの検出部12の検出値を取得する。制御部132は、各状態の検出値を学習することで、各状態における角速度センサー123の検出値の閾値と所定時間を決定する。なお、制御部132は、各状態における磁気センサー121の検出値の閾値と所定時間、加速度センサー122の検出値の閾値と所定時間を決定するようにしてもよい。
ここで、動作を学習する学習モードのとき、制御部132が行う処理の一例を説明する。
制御部132は、例えば、正面から下を向く運動を促す指示を画像変更部133に出力する。画像変更部133は、正面から下を向く運動を促す指示に基づく情報を表示部14に表示する。利用者は、表示部14に表示された情報に応じた運動を、所定時間(例えば2秒以上)内に繰り返して行う。制御部132は、指示を表示部14に表示している期間の各センサーの検出値を取得する。制御部132は、学習のため、各状態について、例えば5セットの動作を促し、5セットの動作時に取得した検出値を用いて各状態の検出値を学習することで、角速度センサー123の検出値の閾値を決定する。なお、1セットの動作とは、所定時間内に複数回行う、正面から下を向く運動である。また、制御部132は、各センサーの検出値において、例えば極大値を抽出し、抽出した極大値の期間に基づいて、各動作を判別するための所定時間を決定する。
次に、記憶部131が記憶する情報の一例を説明する。
図3は、本実施形態に係る記憶部131が記憶する状態に関する検出値の一例を示す図である。図3に示すように、記憶部131は、状態に、磁気センサー121と加速度センサー122の検出値を用いて算出した方位の閾値と所定時間を対応付けて記憶する。例えば、記憶部131は、上向き状態に、方位の閾値として(θ12、φ12)と所定時間としてt11を対応付けて記憶する。記憶部131は、正面状態に、方位の閾値として(θ22、φ22)と所定時間としてt21を対応付けて記憶する。なお、θ12、θ22は水平方向の方位、φ12、φ22は垂直方向の方位である。また、θ12、φ12、θ22、φ22は、範囲を有する値であってもよい。また、所定時間t11〜t91は、同じ値であってもよい。
図4は、本実施形態に係る記憶部131が記憶する動作に関する検出値の一例を示す図である。図4に示すように、記憶部131は、動作に、方位の変化量の閾値と所定時間を対応付けて記憶する。例えば、記憶部131は、正面から下向きの動作に、方位の変化量の閾値として(Δθ101、Δφ101)と所定時間としてt101を対応付けて記憶する。記憶部131は、上向きから正面の動作に、方位の変化量の閾値として(Δθ201、Δφ201)、所定時間としてt201を対応付けて記憶する。
<下向き状態、縦振り動作、横振り動作の検出>
次に、下向き状態、縦振り動作、横振り動作の検出方法について説明する。
制御部132は、磁気センサー121の検出値と加速度センサー122の検出値を用いて算出した方位(θ、φ)が方位の閾値(θ32、φ32)以上の状態が、第1所定時間t31以上継続したとき、下向き状態であると判別する。
また、制御部132は、方位の変化量が(Δθ101、Δφ101)以上かつ第2所定時間t101以上(正面から下向きの動作)、方位の変化量が(Δθ201、Δφ201)以上かつ第2所定時間t201以上(上向きから正面の動作)、方位の変化量が(Δθ301、Δφ301)以上かつ第2所定時間t301以上(上向きから下向きの動作)のうちすくなくとも1つが第1所定回数検出されたとき、縦振り動作であると判別する。なお、制御部132は、方位の変化量と所定時間の組み合わせのうち、いずれの閾値を用いるかを、学習モードのときに決定するようにしてもよい。なお、制御部132は、例えば、角速度センサー123の検出値を用いて算出した角速度ωが角速度の閾値ω11、ω21、ω31のうち少なくとも1つの値以上である状態が、第2所定時間(t101、t201、t201)内に第2所定回数以上検出したとき、縦振り動作であると判別するようにしてもよい。
また、制御部132は、方位の変化量が(Δθ401、Δφ401)以上かつ第3所定時間t401以上(正面から右向きの動作)、方位の変化量が(Δθ401、Δφ401)以上かつ第3所定時間t501以上(正面から左向きの動作)のうち少なくとも1つが第2所定回数検出されたとき、横振り動作であると判別する。なお、制御部132は、方位の変化量と所定時間の組み合わせのうち、いずれの閾値を用いるかを、学習モードのときに決定するようにしてもよい。なお、制御部132は、例えば、角速度センサー123の検出値を用いて算出した加速度ωが角速度の閾値ω41、ω51のうち少なくとも1つの値以上である状態が、第3所定時間(t401、t501)内に第2所定回数以上検出したとき、横振り動作であると判別するようにしてもよい。
<HMD1の表示部14に表示される情報の例>
次に、HMD1の表示部14に表示される画像の例を説明する。
図5は、本実施形態に係る表示部14に表示される情報の一例を示す図である。
画像g101は、利用者がHMD1を頭部に装着し正面を向いている状態(通常状態)ときに表示部14に表示される画像の一例である。通常状態のときに表示される画像は、外界の画像に、鎖線g121で囲んだ領域の時刻情報が重なった画像である。なお、外界の画像は、画像変更部133が作成した画像ではなく、表示部14を通して利用者が視認する画像である。また、鎖線g111で囲んだ領域の情報は、利用者が予め通常状態のときに表示する情報として設定した情報であり、例えば時刻情報である。
利用者が通常状態から、頭部を下向き状態(St1;頭部方位下)に変えた場合には、画像g102が表示される。下向き状態のときに表示される画像は、外界の画像に、鎖線g121で囲んだ領域の情報が重なった画像である。鎖線g121で囲んだ領域の情報は、利用者が予め下向き状態のときに表示する情報として設定した情報に基づく画像であり、例えば現在地または目的地の天気予報に関する情報である。すなわち、本実施形態において、HMD1の状態が変化したとき、制御部132は、表示部14に表示する情報を切り替えて変化させる。
利用者が通常状態から、縦振り動作(St2;頭部運動、うなずき)を行った場合には、画像g103が表示される。縦振り動作のときに表示される画像は、外界の画像に、鎖線g111で囲んだ領域の情報に加え、鎖線g131で囲んだ領域の情報が重なった画像である。鎖線で囲んだ領域の情報は、利用者が予め縦振り動作のときに表示する情報として設定した情報であり、例えば現在地から目的地への道順や進路方向等のナビゲーションに関する情報である。
利用者が通常状態から、横振り動作(St3;頭部運動、左右)を行った場合には、画像g104が表示される。縦振り動作のときに表示される画像は、外界の画像に、鎖線g111で囲んだ領域の情報に加え、鎖線g141で囲んだ領域の情報が重なった画像である。鎖線g141で囲んだ領域の情報は、利用者が予め横振り動作のときに表示する情報として設定した情報であり、例えばスケジュールに関する情報である。
すなわち、本実施形態において、HMD1の動作が変化したとき、制御部132は、表示部14に表示する情報を追加して変化させる。なお、HMD1の動作が、縦振り動作から横振り動作に変化した場合、制御部132は、画像g103に表示した情報(時刻情報、ナビゲーション情報)に加えて、スケジュールに関する情報を加えることで、表示する情報を変化させる。換言すると、本実施形態のHMD1は、HMD1が通常状態(基準姿勢)と通常状態(基準姿勢)外の間の往復動作を所定時間内に行った場合に、付加情報を表示させる。通常状態(基準姿勢)外とは、下向き姿勢、上向き姿勢、左向き姿勢、右向き姿勢、左上向き姿勢、右上向き姿勢、左下向き姿勢、右下向き姿勢である。また、付加情報とは、例えば、ナビゲーション情報、スケジュール情報等である。
なお、利用者には、下向き状態、縦振り動作、横振り動作のときに表示して欲しい場合と表示して欲しくない場合がある。このため、利用者は、情報をHMD1に表示したい場合、操作部10を操作して、HMD1に情報を表示させる指示を行い、情報をHMD1に表示したくない場合、操作部10を操作して、HMD1に情報を表示させない指示を行う。制御部132は、操作部10が取得した指示情報に応じて、表示指示または非表示指示を生成する。画像変更部133は、制御部132が表示指示を出力した場合、取得部11が出力した情報から検出部12の検出値に応じた情報に基づく画像を表示部14に表示する。または、画像変更部133は、制御部132が非表示指示を出力した場合、取得部11が出力した情報に基づく画像を表示部14に表示しない。
また、図5に示した例では、通常状態のとき表示部14に時刻情報を表示し、状態が変化したとき時刻情報を他の情報へ変化させ、動作が変化したとき他の情報を加える例を示したが、これに限られない。制御部132は、通常状態のとき表示部14に部位ランク情報を表示させ、すなわち情報を表示せず、状態が変化したとき他の情報を表示するように変化させ、動作が変化したときブランク情報に他の情報を加えるように制御するようにしてもよい。
<閾値の学習と表示画像の変更処理手順>
次に、閾値の学習と表示画像の変更処理手順を説明する。
図6は、本実施形態に係る閾値の学習と表示画像の変更処理のフローチャートである。
なお、以下の処理では、下向き状態のときに表示する情報、縦振り動作のときに表示する情報、および横振り動作のときに表示する情報それぞれを、利用者が予め設定しているとする。
(ステップS1)制御部132は、取得部11から操作指示を取得する。続けて、制御部132は、取得した操作指示に学習モードを示す指示が含まれているか否かを判別する。
制御部132は、学習モードを示す指示が含まれていると判別した場合(ステップS1;YES)、ステップS2に進み、学習モードを示す指示が含まれていないと判別した場合(ステップS1;NO)、ステップS5に進む。
(ステップS2)制御部132は、利用者huが頭部にHMD1を装着しているとき各状態、各動作それぞれにおける磁気センサー121の検出値、および加速度センサー122の検出値を取得する。続けて、制御部132は、取得した磁気センサー121の検出値と加速度センサー122の検出値を周知の手法を用いて方位と方位の変化量を算出する。なお、制御部132は、利用者huが頭部にHMD1を装着しているときの各動作それぞれにおける角速度センサー123の検出値を取得し、取得した検出値を周知の手法を用いて角速度を算出するようにしてもよい。
(ステップS3)制御部132は、算出した各状態および各動作の方位と方位の変化量を用いて、各状態および各動作を識別する方位の閾値と方位の変化量の閾値それぞれを設定する。続けて、制御部132は、学習モードにおいて、各状態および各動作を行った時間を測定し、測定した時間に基づいて、各所定時間を設定する。続けて、制御部132は、HMD1の状態に、HMD1の状態を識別するための方位の閾値と所定時間を対応付けて記憶部131に書き込む。続けて、制御部132は、HMD1の動作に、HMD1の動作を識別するための方位の変化量の閾値と所定時間を対応付けて記憶部131に書き込む。
なお、制御部132は、算出した各動作の角速度を用いて、各動作を識別する角速度の閾値それぞれを設定し、学習モードにおいて、各動作を行った時間を測定し、測定した時間に基づいて各所定時間を設定するようにしてもよい。続けて、制御部132は、HMD1の動作に、HMD1の動作を識別するための角速度の閾値と所定時間を対応付けて記憶部131に書き込むようにしてもよい。制御部132は、処理終了後、ステップS1の処理に戻す。
(ステップS5)取得部11は、外部装置から情報を取得し、取得した情報を画像変更部133に出力する。続けて、制御部132は、利用者huが頭部にHMD1を装着しているとき磁気センサー121の検出値、および加速度センサー122を取得する。続けて、制御部132は、取得した磁気センサー121の検出値と加速度センサー122の検出値を周知の手法を用いて方位と方位の変化量を算出する。
(ステップS6)制御部132は、ステップS5で算出した方位と方位の変化量と、記憶部131に記憶されている閾値とを比較する。
(ステップS7)制御部132は、ステップS5で算出した方位が、記憶部131に記憶されている下向き状態の方位の閾値以上である期間が、所定時間の閾値である第1所定時間t31以上継続して越えているか否かに応じて、下向き状態であるか否かを判別する。
制御部132は、下向き状態であると判別した場合(ステップS7;YES)、ステップS8の処理に進み、下向き状態ではないと判別した場合(ステップS7;NO)、ステップS9の処理に進む。
(ステップS8)制御部132は、下向き状態のときに表示するときに用いる情報に表示させる情報を切り替える。なお、表示部14が表示する画像は、取得部11が取得した情報のうちの少なくとも1つである。制御部は、ステップS13に処理を進める。
(ステップS9)制御部132は、ステップS5で算出した方位の変化量が、記憶部131に記憶されている正面から下向き、上向きから正面、上向きから下向きのうち少なくとも1つの方位の変化量の閾値以上である期間が、所定時間の閾値である第2所定時間(t101、t102、t103)に第1所定回数以上発生しているか否かに応じて、縦振り動作であるか否かを判別する。制御部132は、縦振り動作であると判別した場合(ステップS9;YES)、ステップS10の処理に進み、縦振り動作ではないと判別した場合(ステップS9;NO)、ステップS11の処理に進む。
(ステップS10)制御部132は、縦振り動作のときに表示するときに用いる情報に表示させる情報を切り替える。制御部は、ステップS13に処理を進める。
(ステップS11)制御部132は、ステップS5で算出した方位の変化量が、記憶部131に記憶されている正面から右向き、正面から左向きのうち少なくとも1つの方位の変化量の閾値以上である期間が、所定時間の閾値である第3所定時間(t401、t501)に第2所定回数以上発生しているか否かに応じて、横振り動作であるか否かを判別する。制御部132は、横振り動作であると判別した場合(ステップS11;YES)、ステップS12の処理に進み、横振り動作ではないと判別した場合(ステップS11;NO)、ステップS5の処理に戻す。
(ステップS12)制御部132は、横振り動作のときに表示するときに用いる情報に表示させる情報を切り替える。制御部は、ステップS13に処理を進める。
(ステップS13)画像変更部133は、ステップS8、S10、またはS12で制御部132が切り替えた情報を用いて表示画像を生成する。続けて、表示部14は、画像変更部133が生成した画像を表示する。
以上で、閾値の学習と表示画像の変更処理を終了する。
なお、上述した例では、学習モードのときに、図3に示した全ての状態の閾値を学習する例を説明したが、情報の切り替えを行う状態のみ学習するようにしてもよい。
以上のように、本実施形態によれば、画像表示装置の動き、すなわち利用者の頭部の動き(状態、動作)に応じて表示される情報を変更することができる。また、本実施形態によれば、上向き、うなずき、横振り動作等のHMD1の簡易な動作により複数の表示データの変更が可能となる。また、本実施形態によれば、HMD1の簡易な動作により、より多くの表示データを選択的に表示可能となる。また、本実施形態によれば、動作パターンに応じて異なる情報の表示が可能となる。
[第2実施形態]
図7は、本実施形態に係るHMD1Aの概略構成を示すブロック図である。
図7に示すように、HMD1Aは、操作部10、取得部11A、検出部12、情報変更部13A、表示部14、および送信部15を備えている。情報変更部13Aは、記憶部131、制御部132A、画像変更部133を備えている。なお、第1実施形態におけるHMD1と同じ機能を有する機能部には同じ符号を用いて、説明を省略する。また、図7に示すように、HMD1Aは、車両2および端末3と通信を行う。HMD1Aは、例えばBluetooth(登録商標) LE(Low Energy)(以下、BLEという)規格の通信方式を用いて車両2および端末3との通信を行う。
車両2は、検出部21、レーダー22、および送信部23を備えている。なお、車両2は、車体フレーム、エンジン、操向ハンドル等(不図示)を備えている。また、検出部21は、残量検出部211、車速検出部212を備えている。また、レーダー22は、信号生成部221、送信部222、受信部223、他車両検出部224、人検出部225を備えている。端末3は、受信部31、操作部32、制御部33、表示部34、表示情報生成部35、および送信部36を備えている。
まず、車両2について説明する。
車両2は、例えば四輪車、鞍乗り型車両、自動二輪車等である。車両2は、検出部21が検出した情報を送信部23によって端末3へ送信する。また車両2は、レーダー22が検出した情報を送信部23によって端末3へ送信する。
検出部21は、車両2の状態を検出し、検出した状態を示す情報を送信部23に出力する。残量検出部211は、車両2の状態である燃料(ガソリン、電力等)の残量を検出し、検出した残量を示す情報を送信部23に出力する。車速検出部212は、車両2の状態である車速を検出し、検出した車速を示す情報を送信部23に出力する。
レーダー22は、例えばミリ波を用いたMIMO(Multiple-Input Multiple-Output)方式のレーダーであり、他車両および人(含む歩行者)を検出し、検出した結果を、レーダー検出結果を示す情報として送信部23に出力する。なお、レーダー22は、赤外線、超音波、撮像装置が撮像した画像等を用いて、他車両や人を検出するようにしてもよい。
信号生成部221は、送信信号を生成し、生成した送信信号を送信部222、他車両検出部224、および人検出部225に出力する。
送信部222は、送信アンテナを含み、信号生成部221が出力した送信信号を送信波に変換し、変換した送信アンテナから送信する。
受信部223は、受信アンテナを含み、対象物(他車両、歩行者等)に反射した反射波である受信波を受信し、受信した受信波を受信信号に変換する。また受信部223は、受信信号を他車両検出部224および人検出部225に出力する。
他車両検出部224は、信号生成部221が出力した送信信号と、受信部223が出力した受信信号に対して、周知の手法を用いて他車両の検出を行って、他車両が検出された場合に検出した結果を示す情報を送信部23に出力する。
人検出部225は、信号生成部221が出力した送信信号と、受信部223が出力した受信信号に対して、周知の手法を用いて人の検出を行って、人が検出された場合に検出した結果を示す情報を送信部23に出力する。
送信部23は、検出部21が出力した車両2の状態を示す情報と、レーダー22が出力したレーダー検出結果を示す情報を端末3に送信する。
次に、端末3について説明する。
端末3は、例えばスマートフォン、タブレット端末等である。端末3は、利用者の操作指示を検出し、検出した操作指示にHMD1Aへの指示が含まれている場合、指示を抽出し、抽出した指示をHMD1Aへ送信する。また、端末3は、HMD1が出力した表示部14に表示する情報を選択する指示である情報選択指示に応じて、車両から受信した情報の中から受信する情報を切り替え、切り替えた情報に基づいて表示情報を生成し、生成した表示情報をHMD1Aへ送信する。
受信部31は、車両2が送信した車両2の状態を示す情報とレーダー検出結果を示す情報を受信し、受信した車両2の状態を示す情報とレーダー検出結果を示す情報を表示情報生成部35に出力する。また受信部31は、HMD1Aが出力した情報選択指示を制御部33に出力する。また、受信部31は、ネットワーク(不図示)を介して受信した目的地までのナビゲーション情報を取得し、取得したナビゲーション情報を制御部33に出力する。なお、受信部31は、ネットワークを介して天気予報、現在地を示す情報、現在地の周辺にあるお店等の情報、車両の進路上の渋滞情報等を取得し、取得した情報を制御部33に出力する。
操作部32は、例えば表示部34上に取り付けられているタッチパネル式センサーであり、利用者の操作を検出し、検出した操作結果を制御部33に出力する。なお、操作結果には、学習モードの開始指示、情報の表示を行うことを設定する情報表示指示、情報の表示を行わないことを設定する情報非表示指示、出発地を示す情報、目的地を示す情報、ナビゲーション情報を取得する指示等が含まれている。
制御部33は、受信部31が出力した情報選択指示に応じて、受信部31が受信した情報の中からHMD1Aの表示部14に表示する情報を切り替える切替指示を生成する。制御部33は、生成した切替指示を表示情報生成部35に出力する。制御部33は、操作部32が出力した操作結果から学習モードの開始指示、情報表示指示、情報非表示指示を抽出する。制御部33は、抽出した学習モードの開始指示、情報表示指示、情報非表示指示を送信部36に出力する。なお、制御部33は、操作部32が出力した操作結果に情報非表示指示が含まれている場合、送信部36に、表示情報をHMD1Aへ送信しない指示を出力するようにしてもよい。制御部33は、操作部32が出力した出発地を示す情報、目的地を示す情報、ナビゲーション情報を取得する指示、渋滞情報を取得する指示等を、送信部36に出力する。
表示部34は、例えば液晶ディスプレイパネルであり、バックライトを含んで構成される。表示部34は、制御部33が出力した画像情報を表示する。画像情報は、HMD1Aの設定および操作を行う画像、車両2との通信を設定する画像等を含む。
表示情報生成部35は、制御部33が出力した切替指示に応じて、受信部31が出力した情報に対して、HMD1Aに送信する情報に切り替える。表示情報生成部35は、切り替えた結果に基づいて受信部31が出力した情報の中から情報を選択し、選択した情報に基づいて、HMD1Aの表示部14に表示する表示情報を生成する。表示情報生成部35は、生成した表示情報を送信部36に出力する。なお、表示情報は、車両2の車速情報、車両2の燃料の残量情報、レーダー検出結果を示す情報、ナビゲーション情報、渋滞情報、現在地情報のうち少なくとも1つである。
送信部36は、制御部33が出力した学習モードの開始指示、情報表示指示、情報非表示指示をHMD1Aへ送信する。また、送信部36は、表示情報をHMD1Aへ送信する。
次に、HMD1Aについて説明する。
取得部11Aは、端末3が送信した学習モードの開始指示、情報表示指示、情報非表示指示、および表示情報を取得する。取得部11Aは、取得した表示情報を画像変更部133に出力する。また、取得部11Aは、取得した学習モードの開始指示、情報表示指示、情報非表示指示を制御部132Aに出力する。
制御部132Aは、取得部11Aが出力した学習モードの開始指示、情報表示指示、情報非表示指示を取得する。制御部132Aは、検出部12が出力した検出値を取得する。
制御部132Aは、学習モードの開始指示の場合、制御部132と同様に閾値の学習を行い、学習した閾値と所定時間を記憶部131に記憶させる。制御部132Aは、検出部12が出力した検出値と記憶部131が記憶している閾値と所定時間を用いて、HMD1Aの状態(通常状態、下向き状態、縦振り動作、横振り動作)を制御部132と同様に判別し、判別した結果に基づいて情報選択指示を生成する。制御部132Aは、生成した情報選択指示を送信部15に出力する。また、制御部132Aは、取得した情報に応じて表示指示または非表示指示を生成し、生成した表示指示または非表示指示を画像変更部133に出力する。
送信部15は、制御部132Aが出力した情報選択指示を端末3へ送信する。
<HMD1Aの表示部14に表示される情報の例>
次に、HMD1Aの表示部14に表示される情報の例を説明する。
図8は、本実施形態に係る表示部14に表示される情報の一例を示す図である。
画像g201は、利用者がHMD1を頭部に装着し通常状態のときに表示部14に表示される画像の一例である。通常状態のときに表示される画像は、外界の画像に、鎖線g211で囲んだ領域の情報である。鎖線g211で囲んだ領域の情報は、ナビゲーション情報であり、例えば、進路を示す画像、道順を示す画像、現在の交差点名を示す画像、次の交差点名を示す画像、次の交差点までの距離を示す画像等が含まれている。なお、ナビゲーション情報の表示位置は、利用者が端末3またはHMD1Aを操作して設定するようにしてもよく、予め定められた位置であってもよい。予め定められた位置とは、例えば、利用者の視界において、路面が視認されると想定される位置が好ましい。
利用者が通常状態から、頭部を下向き状態(St1;頭部方位下)に変えた場合には、画像g202が表示される。下向き状態のときに表示される画像は、外界の画像に、鎖線g221で囲んだ領域の情報が重なった画像である。鎖線g221で囲んだ領域の情報には、例えば、現在の時刻を示す情報、目的地までの距離、目的地に到着する予定時刻を示す情報、目的地まで走行した場合の推定残り時間等が含まれている。このように、本実施形態では、HMD1Aは、HMD1Aが通常状態から下向き状態に変化したとき、表示情報をナビゲーション情報から目的地までの距離等の情報に切り替えて表示する。なお、情報を表示する位置は、利用者が端末3またはHMD1Aを操作して設定する。
利用者がHMD1を頭部に装着し通常状態から、頭部を縦振り動作(St2;頭部運動、うなずき)に変えた場合には、画像g203が表示される。縦振り動作のときに表示される画像は、外界の画像に、ナビゲーション情報を示す鎖線g211に加えて、鎖線g231〜g233で囲んだ領域の情報が重なった画像である。鎖線g231で囲んだ領域の情報には、歩行者位置を示す情報が含まれ、鎖線g232で囲んだ領域の情報には、例えば車速を示す情報が含まれ、鎖線g233で囲んだ領域の情報には、燃料の残量を示す情報が含まれている。このように、本実施形態では、HMD1Aは、HMD1Aが通常状態から縦振り動作に変化したとき、表示情報をナビゲーション情報に、車速と燃料の残量等の情報を加えた情報に切り替えて表示する。なお、図8に示した例では、通常状態から縦振り動作に変化したとき、通常状態で表示するナビゲーション情報に加えて、車速、燃料の残量等の情報を表示する例を示したが、これに限られない。通常状態から縦振状態に変化したとき、ナビゲーション情報から車速、燃料の残量等の情報に切り替えるようにしてもよい。また、鎖線g231〜g233で囲んだ領域の情報の表示位置は、予め設定されている位置であってもよく、または利用者が端末3またはHMD1Aを操作して設定した位置であってもよい。
利用者がHMD1を頭部に装着し縦振り動作から、頭部を横振り動作(St3;頭部運動、左右)に変えた場合には、画像g204が表示される。横振り動作のときに表示される画像は、外界の画像に、ナビゲーション情報を示す鎖線g211に加え、縦振り動作の時に表示する情報(車速、燃料の残量)と、鎖線g241〜g245で囲んだ領域の情報が重なった画像である。鎖線g241で囲んだ領域の情報には、車両2の進行方向に検出された人の予測される動きを示す情報が含まれる。鎖線g242で囲んだ領域の情報には、車両2の進行方向の他車両の予測される動きを示す情報が含まれる。鎖線g243で囲んだ領域の情報には、車両2が走行している道路の制限速度を示す情報が含まれる。鎖線g244で囲んだ領域の情報には、目的地名を表す画像が含まれ、鎖線g245には、燃料を補給するまでに走行可能と予測される走行距離を示す画像が含まれている。このように、本実施形態では、HMD1Aは、HMD1Aが横振り動作から縦振り動作に変化したとき、表示情報を通常状態に表示する情報および縦振動作のときに表示する情報に加え、横振り動作のときに表示する情報を加えた情報に切り替えて表示する。なお、図8に示した例では、縦振り動作から横振り動作に変化したときに表示する情報の例を示したが、これに限られない。通常状態から縦振り動作に変化したとき、通常状態のとき表示する情報に加え、横振り動作のときに表示する情報を加えた情報に切り替えるようにしてもよい。また、鎖線g241〜g245で囲んだ領域の情報の表示位置は、予め設定されている位置であってもよく、または利用者が端末3またはHMD1Aを操作して設定した位置であってもよい。
すなわち、本実施形態のHMD1Aは、HMD1Aが通常状態(基準姿勢)と通常状態(基準姿勢)外の間の往復動作を所定時間内に行った場合に、付加情報を表示させる。通常状態(基準姿勢)外とは、下向き姿勢、上向き姿勢、左向き姿勢、右向き姿勢、左上向き姿勢、右上向き姿勢、左下向き姿勢、右下向き姿勢である。また、付加情報とは、例えば、車速情報、燃料の残量情報、他車両情報、対人情報、目的地情報等である。このように、付加情報は、HMD1Aが車両2に乗車している利用者が搭載している場合、車両2に関する情報や車両2の走行に関する情報であり、HMD1が利用されている状況に応じた情報である。
なお、利用者がHMD1Aを頭部に装着して鞍乗り型である車両2に乗っている場合、制御部132Aは、車両2の車速に基づいて、車両2が走行しているときの検出部12の検出値を取得し、取得した検出値を用いて各状態および各動作の閾値を補正するようにしてもよい。例えば、車両2に利用者が乗っているときの通常状態は、学習モードのときの正面を向いている姿勢より前屈みである場合があり得る。このような状態で利用者が頭部を下向き状態にしたり縦振り動作をしても、通常状態で行った学習モードのときの閾値では各状態および各動作を検出できない場合があり得る。このため、制御部132Aは、走行時の検出値を用いて、閾値を補正するようにしてもよい。また、横振り動作についても、ヘルメット装着時において、学習モードのときに設定した閾値では検出できない場合があり得るので、制御部132Aは、走行時の検出値を用いて閾値を補正するようにしてもよい。
なお、第2実施形態では、表示部14に表示する情報の例として、ナビゲーション情報、車速、燃料の残量、進行方向における人や他車両の動き、目的地名、燃料を補給するまでに走行可能な距離等の例を説明したが、これに限られない。他の情報の例として、現在地に関する情報(道路情報、周辺の店舗情報)、進路にあるランドマーク名、車両2の水温計の値、車両の走行距離(トリップ)、エンジンの制御モード、サスペンションの制御モード、緊急車両の有無、道路工事の有無、進路の前方方向の渋滞の有無等の情報であってもよい。なお、これらの情報は、例えば端末3が通信回線を介して取得してHMD1Aへ送信し、車両2が、道路情報を取得してHMD1Aへ送信するようにしてもよい。
なお、第1実施形態および第2実施形態では、下向き状態、縦振り動作、横振り動作を検出する例を説明したが、これに限られない。制御部132または132Aは、例えば、図3に示したように、上向き状態、左向き状態、右向き状態、左上向き状態、右上向き状態、左下向き状態、右下向き状態を検出し、検出した状態に応じて表示する情報を切り替えるようにしてもよい。すなわち、制御部132または132Aは、HMD11または1Aの通常状態(基準姿勢)に対して上下、左右、斜め方向のうち少なくとも1つの状態の判定を検出部12の検出結果を用いて行うようにしてもよい。
以上のように、本実施形態によれば、HMD1Aが利用されている状況に応じた付加情報の表示を、HMD1Aの動作(含む状態)に応じて切り替えることができる。また、本実施形態によれば、HMD1Aに車両2に関する情報を表示することができ、表示する情報をHMD1Aの動作に応じて切り替えることができる。
なお、本発明におけるHMD1、1Aの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより表示情報の切り替え、表示情報に基づく画像の表示等を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
1、1A…ヘッドマウントディスプレイ(HMD)、2…車両、3…端末、10…操作部、11、11A…取得部、12…検出部、13、13A…情報変更部、131…記憶部、132、132A…制御部、133…画像変更部、14…表示部、15…送信部、121…磁気センサー、122…加速度センサー、123…角速度センサー、21…検出部、22…レーダー、23…送信部、211…残量検出部、212…車速検出部、221…信号生成部、222…送信部、223…受信部、224…他車両検出部、225…人検出部、31…受信部、32…操作部、33…制御部、34…表示部、35…表示情報生成部、36…送信部

Claims (5)

  1. 2つ以上の情報を取得する取得部と、
    画像表示装置の加速度、方位および角速度のうち少なくとも1つを検出する検出部と、
    当該画像表示装置の状態を検出するための方位の閾値と所定時間とを状態毎に記憶し、当該画像表示装置の動作を検出するための方位の閾値と所定時間とを姿勢毎に記憶する記憶部と、
    前記検出部が検出した結果と前記記憶部が記憶する情報とに基づいて、前記画像表示装置の状態を判定し、前記判定した前記画像表示装置の状態に応じて、前記取得部が取得した前記2つ以上の情報から選択する情報を切り替え、前記切り替えた情報に基づく表示データを生成する画像変更部と、
    前記表示データを表示する表示部と、
    を備え、
    前記画像変更部は、
    前記検出部が検出した結果と前記記憶部が記憶する情報とに基づいて前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行ったことを判別し、前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行った場合に付加情報を生成する、
    画像表示装置。
  2. 前記画像変更部は、
    前記画像表示装置の前記基準姿勢に対する上下、左右、斜め方向のうち少なくとも1つに関する前記画像表示装置の状態を、前記検出部が検出した結果に基づいて判定する、
    請求項1に記載の画像表示装置。
  3. 前記付加情報は、
    前記画像表示装置が利用されている状況に応じた情報である、
    請求項1に記載の画像表示装置。
  4. 前記画像表示装置の利用者が車両に乗車している場合、
    前記取得部は、前記車両から前記車両に関する情報を取得し、
    前記付加情報は、前記車両に関する情報である、
    請求項1または請求項に記載の画像表示装置。
  5. 画像表示装置の姿勢を検出するための方位の閾値と所定時間とを姿勢毎に記憶し、当該画像表示装置の動作を検出するための方位の閾値と所定時間とを姿勢毎に記憶する記憶部を備える当該画像表示装置の画像表示方法であって、
    2つ以上の情報を取得する取得手順と、
    前記画像表示装置の加速度、方位および角速度のうち少なくとも1つを検出する検出手順と、
    前記検出手順によって検出された結果と前記記憶部が記憶する情報とに基づいて、前記画像表示装置の状態を判定し、前記判定した前記画像表示装置の状態に応じて、前記取得手順によって取得された前記2つ以上の情報から選択する情報を切り替え、前記切り替えた情報に基づく表示データを生成する画像変更手順と、
    前記表示データを表示する表示手順と、
    前記検出手順によって検出された結果と前記記憶部が記憶する情報とに基づいて前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行ったことを判別する往復運動判別手順と、
    を含み
    前記画像変更手順において、
    前記往復運動判別手順で判別した結果、前記画像表示装置が基準姿勢と基準姿勢外の間の往復動作を所定時間内に行った場合に付加情報を生成する、
    画像表示方法。
JP2017566547A 2016-02-12 2017-01-06 画像表示装置および画像表示方法 Active JP6598317B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016025244 2016-02-12
JP2016025244 2016-02-12
PCT/JP2017/000242 WO2017138278A1 (ja) 2016-02-12 2017-01-06 画像表示装置および画像表示方法

Publications (2)

Publication Number Publication Date
JPWO2017138278A1 JPWO2017138278A1 (ja) 2018-10-11
JP6598317B2 true JP6598317B2 (ja) 2019-10-30

Family

ID=59563614

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017566547A Active JP6598317B2 (ja) 2016-02-12 2017-01-06 画像表示装置および画像表示方法

Country Status (5)

Country Link
US (1) US10642033B2 (ja)
EP (1) EP3416159B1 (ja)
JP (1) JP6598317B2 (ja)
CN (1) CN108475495B (ja)
WO (1) WO2017138278A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113196377B (zh) * 2018-12-20 2024-04-12 Ns西日本株式会社 显示光射出装置、平视显示装置、图像显示系统及头盔
US11733951B2 (en) * 2018-12-27 2023-08-22 Honda Motor Co., Ltd. Image display apparatus, image display system and image display method
CN110032969B (zh) * 2019-04-11 2021-11-05 北京百度网讯科技有限公司 用于检测图像中的文本区域的方法、装置、设备以及介质
JP7287257B2 (ja) * 2019-12-06 2023-06-06 トヨタ自動車株式会社 画像処理装置、表示システム、プログラムおよび画像処理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09309372A (ja) * 1996-05-24 1997-12-02 Nissan Motor Co Ltd 搭乗姿勢検出装置及び情報選択装置
JP3403361B2 (ja) * 1999-09-30 2003-05-06 川崎重工業株式会社 ヘッド・マウント・ディスプレイ装置
JP2003345492A (ja) 2002-05-27 2003-12-05 Sony Corp 携帯電子機器
EP1517277A3 (en) 2003-09-22 2006-10-25 Matsushita Electric Industrial Co., Ltd. Secure device and information processing unit
JP2005099908A (ja) 2003-09-22 2005-04-14 Matsushita Electric Ind Co Ltd カード機能を有する情報記憶装置と情報処理装置
JP2007134785A (ja) 2005-11-08 2007-05-31 Konica Minolta Photo Imaging Inc 頭部装着型の映像表示装置
JP5125979B2 (ja) * 2008-10-16 2013-01-23 Necカシオモバイルコミュニケーションズ株式会社 画像表示装置及びプログラム
EP2619749A4 (en) 2010-09-21 2017-11-15 4IIII Innovations Inc. Head-mounted peripheral vision display systems and methods
US20120095643A1 (en) * 2010-10-19 2012-04-19 Nokia Corporation Method, Apparatus, and Computer Program Product for Modifying a User Interface Format
JP2013083731A (ja) * 2011-10-06 2013-05-09 Murata Mach Ltd 画像表示システム
JP5510431B2 (ja) * 2011-11-21 2014-06-04 株式会社デンソー 車両用表示装置
US20140098008A1 (en) * 2012-10-04 2014-04-10 Ford Global Technologies, Llc Method and apparatus for vehicle enabled visual augmentation
US9204288B2 (en) 2013-09-25 2015-12-01 At&T Mobility Ii Llc Intelligent adaptation of address books
US10386921B2 (en) * 2013-12-03 2019-08-20 Nokia Technologies Oy Display of information on a head mounted display
DE102014004178A1 (de) * 2014-03-22 2015-09-24 Audi Ag Verfahren zum Darstellen fahrtbezogener und/oder fahrzeugspezifischer Daten
US9767373B2 (en) * 2014-09-05 2017-09-19 Ford Global Technologies, Llc Head-mounted display head pose and activity estimation
US9588593B2 (en) * 2015-06-30 2017-03-07 Ariadne's Thread (Usa), Inc. Virtual reality system with control command gestures

Also Published As

Publication number Publication date
WO2017138278A1 (ja) 2017-08-17
CN108475495A (zh) 2018-08-31
CN108475495B (zh) 2021-01-19
US10642033B2 (en) 2020-05-05
EP3416159A4 (en) 2019-07-24
EP3416159A1 (en) 2018-12-19
JPWO2017138278A1 (ja) 2018-10-11
EP3416159B1 (en) 2020-08-26
US20190155024A1 (en) 2019-05-23

Similar Documents

Publication Publication Date Title
JP6598317B2 (ja) 画像表示装置および画像表示方法
KR101659027B1 (ko) 이동 단말기 및 차량 제어 장치
JP6524422B2 (ja) 表示制御装置、表示装置、表示制御プログラム、及び表示制御方法
JP2018190217A (ja) 運転者監視装置、及び運転者監視方法
US10839623B2 (en) Vehicle, image display device, vehicle control method, and image display method
KR20150130818A (ko) 이동 단말기 및 그 제어 방법
US11110933B2 (en) Driving support device, wearable device, driving support system, driving support method, and computer-readable recording medium
US20230098451A1 (en) Ar based performance modulation of a personal mobility system
US10935789B2 (en) Image display apparatus and image display method
KR20160075203A (ko) 이동 단말기 및 이의 제어 방법
KR101578741B1 (ko) 이동 단말기 및 그 제어 방법
JP6670965B2 (ja) 表示システム及び表示方法
KR101602265B1 (ko) 이동 단말기 및 이의 제어 방법
US11900550B2 (en) AR odometry using sensor data from a personal vehicle
US20230215106A1 (en) Ar-enhanced detection and localization of a personal mobility device
JP2020100912A (ja) 画像表示システム
US10563989B2 (en) Visual and lateralized navigation assistance system
JP5892309B2 (ja) 車両用視線誘導装置
CN110347163B (zh) 一种无人驾驶设备的控制方法、设备及无人驾驶控制系统
KR20160023755A (ko) 이동 단말기 및 그 제어 방법
WO2023129812A1 (en) Augmented reality (ar) - enhanced detection and localization of a personal mobility device
WO2023122459A1 (en) An odometry using sensor data from a personal vehicle
JP2014196086A (ja) 輸送機器用表示装置

Legal Events

Date Code Title Description
A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A527

Effective date: 20180418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190927

R150 Certificate of patent or registration of utility model

Ref document number: 6598317

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150