JP2014119786A - 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム - Google Patents

頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム Download PDF

Info

Publication number
JP2014119786A
JP2014119786A JP2012272166A JP2012272166A JP2014119786A JP 2014119786 A JP2014119786 A JP 2014119786A JP 2012272166 A JP2012272166 A JP 2012272166A JP 2012272166 A JP2012272166 A JP 2012272166A JP 2014119786 A JP2014119786 A JP 2014119786A
Authority
JP
Japan
Prior art keywords
procedure
image
user
information
head
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012272166A
Other languages
English (en)
Other versions
JP6119228B2 (ja
Inventor
Fusayuki Kimura
総志 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2012272166A priority Critical patent/JP6119228B2/ja
Priority to US14/095,827 priority patent/US9448407B2/en
Priority to CN201310674651.4A priority patent/CN103869469B/zh
Publication of JP2014119786A publication Critical patent/JP2014119786A/ja
Application granted granted Critical
Publication of JP6119228B2 publication Critical patent/JP6119228B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】頭部装着型表示装置において、使用者が行う作業を支援すると共に、当該作業に付随する危険等の注意点を使用者に知らせる。
【解決手段】使用者が虚像と外景を同時に視認可能な頭部装着型表示装置は、現在の手順について、使用者が実施すべき内容を表す画像である手順情報を生成する手順管理部と、現在の手順において、使用者に注意を促すための画像である注意情報を生成する注意情報生成部と、手順情報と、注意情報とを、虚像として使用者に視認させる画像表示部とを備える。
【選択図】図16

Description

本発明は、頭部装着型表示装置に関する。
現実環境にコンピューターを用いて情報を付加提示する拡張現実(AR、Augmented Reality)と呼ばれる技術が知られている。拡張現実は、例えばヘッドマウントディスプレイ(以降、「頭部装着型表示装置」と呼ぶ。)に搭載される。頭部装着型表示装置は、カメラで外景を撮像し、撮像により得られた画像を画像認識し、付加提示用の情報を生成する。頭部装着型表示装置を装着した状態において使用者の視界が遮断される非透過型の頭部装着型表示装置では、撮像された画像と、付加提示用の情報とを重畳させた画像を液晶画面に表示させる。頭部装着型表示装置を装着した状態でも使用者の視界が遮断されない透過型の頭部装着型表示装置では、付加提示用の情報を表す画像を液晶画面に表示させる。このようにして、使用者は拡張現実を体感することができる。
特許文献1および特許文献2には、作業内容や作業手順を付加提示用の情報として生成し、使用者に提示することが可能な頭部装着型表示装置が記載されている。特許文献3には、撮像された使用者の作業領域の画像を危険領域特定情報に基づいて画像認識し、使用者の身体の一部が危険領域内に存在する場合に工作機械を緊急停止させる危険回避システムが記載されている。特許文献4には、赤外線センサーによって使用者周辺の段差等の障害物を検出し、段差等を目立たせるための付加提示用の情報を生成し、使用者に提示することが可能な頭部装着型表示装置が記載されている。
特許第3735086号公報 特開2011−114781号公報 特開2010−144773号公報 特開2006−146778号公報
特許文献1、2に記載された技術では、使用者が行う作業を支援することができる。しかし、従来から、作業に付随する危険等の注意点を使用者に知らせることによって、事故を低減させたいという要望があった。特許文献3、4に記載された技術では、使用者が行う作業を支援することはできないという課題があった。
このため、使用者が行う作業を支援すると共に、当該作業に付随する危険等の注意点を使用者に知らせることが可能な頭部装着型表示装置が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が提供される。この頭部装着型表示装置は;現在の手順について、前記使用者が実施すべき内容を表す画像である手順情報を生成する手順管理部と;前記現在の手順において、前記使用者に注意を促すための画像である注意情報を生成する注意情報生成部と;前記手順情報と、前記注意情報とを、前記虚像として前記使用者に視認させる画像表示部と、を備える。この形態の頭部装着型表示装置によれば、画像表示部は、現在の手順について使用者が実施すべき内容を表した手順情報と、使用者に注意を促すための注意情報と、の両方を虚像として使用者に視認させる。このため、使用者が行う作業を支援すると共に、当該作業に付随する注意点を使用者に知らせることが可能な頭部装着型表示装置を実現することができる。
(2)上記形態の頭部装着型表示装置において;前記注意情報生成部は、前記現在の手順において、予め記憶されている注意点データーが存在する場合に、前記注意情報を生成してもよい。この形態の頭部装着型表示装置によれば、注意情報生成部は、現在のステップに対して予め記憶されている注意点データーが存在する場合に、注意情報を生成することができる。
(3)上記形態の頭部装着型表示装置では、さらに;前記頭部装着型表示装置を装着した状態における前記使用者の視界方向の画像を取得する画像取得部を備え;前記手順管理部は、前記画像取得部により取得された前記画像に基づいて、作業に含まれる複数の手順から前記現在の手順を特定してもよい。この形態の頭部装着型表示装置によれば、手順管理部は、使用者の視界方向の画像に基づいて、作業に含まれる複数の手順から、自動的に現在の手順を特定することができる。
(4)上記形態の頭部装着型表示装置において;前記手順管理部は、前記作業に含まれる前記手順を表す情報と、当該手順内において前記使用者が実施すべき内容を表す情報と、の関連付けを用いて、前記現在の手順に対応する前記手順情報を生成してもよい。この形態の頭部装着型表示装置によれば、手順管理部は、手順と、当該手順内において使用者が実施すべき内容との関連付けを用いて、簡便に手順情報を生成することができる。
(5)上記形態の頭部装着型表示装置において;前記予め記憶されている注意点データーは、前記作業に含まれる前記手順を表す情報と、当該手順内における過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報と、を関連付けたデーターであり;前記注意情報生成部は、前記注意点データーを用いて、前記現在の手順に対応する前記注意情報を生成してもよい。この形態の頭部装着型表示装置によれば、注意情報生成部は、手順と、当該手順内における過去の事故やヒヤリハットに関する情報との関連付けを用いて、簡便に注意情報を生成することができる。
(6)上記形態の頭部装着型表示装置において;前記手順管理部は、前記現在の手順に対応する前記手順情報を生成後、所定の確認処理に成功するまでは、次の手順に対応する前記手順情報の生成を制限してもよい。この形態の頭部装着型表示装置によれば、手順管理部は、現在の手順を案内するための手順情報を生成後、次の手順を案内するための手順情報の生成に遷移するまでの間に、所定の確認処理を行うことができる。このため、手順内の作業の安全性を向上させることができる。
(7)上記形態の頭部装着型表示装置において;前記所定の確認処理は、前記使用者からの確認の意思表示の取得であってもよい。この形態の頭部装着型表示装置によれば、手順管理部は、現在の手順と次の手順との間において使用者に対して何らかの確認を行い、使用者からの確認の意思表示を取得することで、手順内の作業の安全性を向上させることができる。
(8)上記形態の頭部装着型表示装置において;前記所定の確認処理は、前記画像取得部により取得された前記画像を画像認識すると共に、前記画像認識の結果が予め定められた条件を満たすことを確認することであってもよい。この形態の頭部装着型表示装置によれば、手順管理部は、現在の手順と次の手順との間において使用者の視界方向の画像を画像認識し、画像認識の結果が予め定められた条件を満たすことを確認することで、手順内の作業の安全性を向上させることができる。
(9)上記形態の頭部装着型表示装置において;前記予め定められた条件は、前記使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む前記使用者の特徴に応じて変動してもよい。この形態の頭部装着型表示装置によれば、手順管理部は、使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む使用者の特徴に応じて、画像認識の結果を照合するための条件を変動させることができる。このため、使用者の特徴に応じたきめ細かな確認処理を行うことができる。
(10)上記形態の頭部装着型表示装置において;前記注意情報生成部は、前記現在の手順において過去に事故が発生した場合と、前記現在の手順において過去にヒヤリハットが発生した場合とにおいて、異なる前記注意情報を生成してもよい。この形態の頭部装着型表示装置によれば、注意情報生成部は、現在の手順において過去に事故が発生した場合とヒヤリハットが発生した場合とにおいて、異なる注意情報を生成する。このため、使用者は、現在の手順において過去に発生した事例が事故であるのか、ヒヤリハットであるのかを知ることができる。
(11)上記形態の頭部装着型表示装置において;前記注意情報生成部は、前記使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む前記使用者の特徴に応じて、異なる前記注意情報を生成してもよい。この形態の頭部装着型表示装置によれば、注意情報生成部は、使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む使用者の特徴に応じて、異なる注意情報を生成することができる。このため、使用者の特徴に応じたきめ細かな注意情報の生成を行うことができる。
(12)上記形態の頭部装着型表示装置において;前記手順管理部は、前記画像取得部により取得された前記画像のうち、前記虚像の表示領域と前記画像取得部の取得領域とが重複する重複領域に対して前記手順情報を生成し;前記注意情報生成部は、前記重複領域に対して前記注意情報を生成してもよい。この形態の頭部装着型表示装置によれば、手順管理部と注意情報生成部とは、それぞれ、虚像の表示領域と画像取得部の取得領域とが重複する重複領域に対して、手順情報と注意情報とを生成する。このため、透過型の頭部装着型表示装置において生じる課題であった「使用者が自身の視界において直接目にする像と、画像表示部により視認させられる虚像との間のずれ」の発生を低減させることができる。この結果、手順情報と注意情報とを虚像として視認させた場合に、使用者に与える違和感を低減させることができる。
(13)上記形態の頭部装着型表示装置では、さらに;発音体を備え;前記注意情報生成部は、前記現在の手順に対応する前記過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報に基づいて、前記使用者に注意を促すための音声を前記発音体から出力させてもよい。この形態の頭部装着型表示装置によれば、注意情報生成部はさらに、音声を通じて使用者に注意を促すことができる。
(14)上記形態の頭部装着型表示装置では、さらに;前記使用者に対して触覚を通じた刺激を加える触覚刺激部を備え;前記注意情報生成部は、前記現在の手順に対応する前記過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報に基づいて、前記使用者に注意を促すために前記触覚刺激部を作動させてもよい。この形態の頭部装着型表示装置によれば、注意情報生成部はさらに、触覚を通じた刺激を通じて、使用者に注意を促すことができる。
(15)本発明の一形態によれば、作業支援システムが提供される。この作業支援システムは、上記形態の頭部装着型表示装置と;サーバーと、を備え;前記サーバーは;前記作業に含まれる前記手順を表す情報と、当該手順内において前記使用者が実施すべき内容を表す情報と、の関連付けを記憶する第1のテーブルと;前記作業に含まれる前記手順を表す情報と、当該手順内における過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報と、の関連付けを記憶する第2のテーブルと;前記頭部装着型表示装置からの要求に応じて、前記第1のテーブルに記憶されている情報と、前記第2のテーブルに記憶されている情報と、のうちの少なくとも一方を送信する送信部と、を備える。この形態の作業支援システムによれば、第1のテーブルと第2のテーブルとを頭部装着型表示装置とは異なる装置であるサーバーに記憶させておくことができ、頭部装着型表示装置は、サーバーから、第1および第2のテーブルの情報を取得することができる。このようにすれば、1台のサーバーに記憶されている第1および第2のテーブルの情報を、複数台の頭部装着型表示装置で共有することが可能となる。この結果、各頭部装着型表示装置にそれぞれ第1および第2のテーブルを備える構成と比較して、テーブルの更新に要する労力が低減される。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、手順管理部と、注意情報生成部と、画像表示部と、の3つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、手順管理部を有していてもよく、有していなくてもよい。また、この装置は、注意情報生成部を有していてもよく、有していなくてもよい。また、この装置は、画像表示部を有していてもよく、有していなくてもよい。こうした装置は、例えば頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、頭部装着型表示装置および頭部装着型表示装置の制御方法、作業支援装置および作業支援装置の制御方法、作業支援システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における頭部装着型表示装置の概略構成を示す説明図である。 ヘッドマウントディスプレイの構成を機能的に示すブロック図である。 画像光生成部によって画像光が射出される様子を示す説明図である。 使用者に認識される虚像の一例を示す説明図である。 第1実施形態における注意喚起処理の手順を示すフローチャートである。 カメラによって撮像された外景画像の一例を示す説明図である。 形状についての注意情報の例を示す説明図である。 温度についての注意情報の例を示す説明図である。 温度についての注意情報の例を示す説明図である。 使用者が視認可能な像の一例を示す説明図である。 第2実施形態におけるヘッドマウントディスプレイの構成を機能的に示すブロック図である。 手順管理テーブルの一例を示す説明図である。 第2実施形態における手順管理処理の手順を示すフローチャートである。 事例についての注意情報の例を示す説明図である。 手順情報の例を示す説明図である。 使用者が視認可能な像の一例を示す説明図である。 処理(I)を説明するための説明図である。 処理(II)を説明するための説明図である。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.頭部装着型表示装置の構成:
図1は、本発明の一実施形態における頭部装着型表示装置の概略構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。
ヘッドマウントディスプレイ100は、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部(コントローラー)10とを備えている。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61と、サーモグラフィー62と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22は、右保持部21の内側、換言すれば、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。また、左表示駆動部24は、左保持部23の内側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部は、液晶ディスプレイ(Liquid Crystal Display、以下「LCD」と呼ぶ)241、242や投写光学系251、252等を含む(図2参照)。表示駆動部の構成の詳細は後述する。光学部材としての光学像表示部は、導光板261、262(図2参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部から出力された画像光を使用者の眼に導く。調光板は、薄板状の光学素子であり、画像表示部20の表側(使用者の眼の側とは反対の側)を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者の眼に入る外光量を調整して虚像の視認のしやすさを調整することができる。なお、調光板は省略可能である。
カメラ61と、サーモグラフィー62とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。カメラ61は、画像表示部20の表側方向、換言すれば、ヘッドマウントディスプレイ100を装着した状態における使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得する。カメラ61はいわゆる可視光カメラであり、カメラ61により取得される外景画像は、物体から放射される可視光から物体の形状を表す画像である。本実施形態におけるカメラ61は単眼カメラであるが、ステレオカメラとしてもよい。サーモグラフィー62は、カメラ61と同様に、画像表示部20の表側方向の外景を撮像し、温度分布画像を取得する。サーモグラフィー62は、いわゆる赤外線サーモグラフィーであり、物体から放射される赤外線を検出し、検出した赤外線エネルギー量を温度に換算し、温度の分布を表す温度分布画像(赤外線熱画像)を生成する。カメラ61およびサーモグラフィー62は、特許請求の範囲における「画像取得部」に相当する。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、本体コード48が2本に分岐した右コード42および左コード44と、分岐点に設けられた連結部材46と、を含んでいる。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46には、イヤホンプラグ30を接続するためのジャックが設けられている。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行う。本体コード48における連結部材46とは反対側の端部と、制御部10とのそれぞれには、互いに嵌合するコネクター(図示省略)が設けられており、本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48には、例えば、金属ケーブルや光ファイバーを採用することができる。
制御部10は、ヘッドマウントディスプレイ100を制御するための装置である。制御部10は、点灯部12と、タッチパッド14と、十字キー16と、電源スイッチ18とを含んでいる。点灯部12は、ヘッドマウントディスプレイ100の動作状態(例えば、電源のON/OFF等)を、その発光態様によって通知する。点灯部12としては、例えば、LED(Light Emitting Diode)を用いることができる。タッチパッド14は、タッチパッド14の操作面上での接触操作を検出して、検出内容に応じた信号を出力する。タッチパッド14としては、静電式や圧力検出式、光学式といった種々のタッチパッドを採用することができる。十字キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、ヘッドマウントディスプレイ100の電源の状態を切り替える。
図2は、ヘッドマウントディスプレイ100の構成を機能的に示すブロック図である。制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、CPU140と、インターフェイス180と、送信部(Tx)51および52とを備え、各部は図示しないバスにより相互に接続されている。
入力情報取得部110は、例えば、タッチパッド14や十字キー16、電源スイッチ18に対する操作入力に応じた信号を取得する。記憶部120は、ROM、RAM、DRAM、ハードディスク等によって構成されている。電源130は、ヘッドマウントディスプレイ100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、無線LANやブルートゥースといった所定の無線通信規格に則って他の機器との間で無線通信を行う。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(ОS)150、画像処理部160、音声処理部170、表示制御部190、注意情報生成部142として機能する。注意情報生成部142は、注意喚起処理を実行するアプリケーションプログラムである。注意喚起処理とは、カメラ61により取得された外景画像や、サーモグラフィー62により取得された温度分布画像に基づいて、使用者の視界方向における注意点を推定し、使用者に注意を喚起する処理である。
画像処理部160は、インターフェイス180や無線通信部132を介して入力されるコンテンツ(映像)に基づいて信号を生成する。そして、画像処理部160は、生成した信号を、接続部40を介して画像表示部20に供給する。画像表示部20に供給するための信号は、アナログ形式とディジタル形式の場合で異なる。アナログ形式の場合、画像処理部160は、クロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、画像データーDataとを生成・送信する。具体的には、画像処理部160は、コンテンツに含まれる画像信号を取得する。取得した画像信号は、例えば動画像の場合、一般的に1秒あたり30枚のフレーム画像から構成されているアナログ信号である。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離し、それらの周期に応じて、PLL回路等によりクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等を用いてディジタル画像信号に変換する。画像処理部160は、変換後のディジタル画像信号を、RGBデーターの画像データーDataとして、1フレームごとに記憶部120内のDRAMに格納する。一方、ディジタル形式の場合、画像処理部160は、クロック信号PCLKと、画像データーDataとを生成・送信する。具体的には、コンテンツがディジタル形式の場合、クロック信号PCLKが画像信号に同期して出力されるため、垂直同期信号VSyncおよび水平同期信号HSyncの生成と、アナログ画像信号のA/D変換とが不要となる。なお、画像処理部160は、記憶部120に格納された画像データーDataに対して、解像度変換処理や、輝度・彩度の調整といった種々の色調補正処理や、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSyncと、記憶部120内のDRAMに格納された画像データーDataとを、送信部51、52を介してそれぞれ送信する。なお、送信部51を介して送信される画像データーDataを「右眼用画像データー」とも呼び、送信部52を介して送信される画像データーDataを「左眼用画像データー」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFFや、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFFや、左バックライト制御部202による左バックライト222の駆動ON/OFFなどを個別に制御することにより、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。また、表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号を、送信部51および52を介してそれぞれ送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号を、それぞれ送信する。
音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内の図示しないスピーカーおよび左イヤホン34内の図示しないスピーカーに対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34からは、それぞれ、例えば周波数等が変えられた異なる音が出力される。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器ОAとしては、例えば、パーソナルコンピューターPCや携帯電話端末、ゲーム端末等がある。インターフェイス180としては、例えば、USBインターフェイスや、マイクロUSBインターフェイス、メモリーカード用インターフェイス等を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61とを備えている。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251とを含んでいる。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データーData1とに基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。導光部は、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。すなわち、左表示駆動部24は、受信部(Rx)54と、光源として機能する左バックライト(BL)制御部202および左バックライト(BL)222と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252とを含んでいる。詳細な説明は省略する。
図3は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表す有効な画像光PLへと変調する。左側についても同様である。なお、図3のように、本実施形態ではバックライト方式を採用することとしたが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
図4は、使用者に認識される虚像の一例を示す説明図である。図4には、使用者の視野VRを例示している。上述のようにして、ヘッドマウントディスプレイ100の使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像VIを視認する。また、使用者の視野VRのうち、虚像VIが表示された部分以外については、使用者は、右光学像表示部26および左光学像表示部28を透過して外景SCを視認する。図4に示す例では、外景SCは、テーブルソーが置かれた作業場の風景である。なお、ヘッドマウントディスプレイ100では、使用者は、視野VRのうち、虚像VIと重複する部分についても、虚像VIの背後に外景SCを視認することができる。
A−2.注意喚起処理:
図5は、第1実施形態における注意喚起処理の手順を示すフローチャートである。注意喚起処理は、使用者の視界方向における注意点を推定し、使用者に注意を喚起する処理である。注意喚起処理の開始トリガーは任意に定めることができる。例えば、ヘッドマウントディスプレイ100が起動されたこと、換言すれば、電源のONを検出したことを開始トリガーとしてもよい。また、例えば、OS150や、特定のアプリケーションからの処理開始要求を開始トリガーとしてもよい。なお、注意喚起処理が特定のアプリケーションから呼び出されて実行される場合、注意喚起処理は、特定のアプリケーションのサブルーチンとして動作する。
注意情報生成部142は、カメラ61から外景画像を取得する(ステップS102)。具体的には、注意情報生成部142は、カメラ61を起動し、カメラ61に対して撮像を指示し、カメラ61によって撮像された外景画像を取得する。
図6は、カメラ61によって撮像された外景画像の一例を示す説明図である。図6の例では、外景画像は、テーブルソーが置かれた作業場の画像である。外景画像を取得後、注意情報生成部142は、外景画像を画像認識することによって、使用者の視界方向における注意点を推定する(図5、ステップS104)。本実施形態において、使用者の視界方向における注意点とは、ヘッドマウントディスプレイ100を装着した状態の使用者の視線の方向に存在する場所のうち、危険な場所や危険が予知される場所を意味する。ステップS104では、具体的に以下のような場所を「危険な場所・危険が予知される場所」であるとする。
(a1)使用者が体や着衣を傷付けるおそれのある鋭角部。例えば、テーブルソーの鋸刃、切削機械の治具、回転ドリルの先端工具等。
(a2)使用者が体や着衣を挟み込まれるおそれのある挟み込み部。例えば、プレス機器のホルスターとスライド、マシニングセンターのテーブルとフレーム等。
(a3)使用者が体や着衣を巻き込まれるおそれのある巻き込み部。例えば、丸鋸盤のローラー、攪拌機の攪拌羽根等。
注意情報生成部142は、外景画像を画像認識して、記憶部120に予め記憶されているパターンとの一致箇所を特定することによって、外景画像から、上記の場所(a1)〜(a3)に該当する場所を特定する。図6の外景画像の例では、注意情報生成部142は、場所(a1)に該当する場所としてテーブルソーの鋸刃部分を特定する。このようにすれば、注意情報生成部142は、画像認識とパターン照合の手法を用いて、鋭角部と、挟み込み部と、巻き込み部と、を特定することによって、個別に予め用意された危険場所に関する情報を必要とせずに、使用者の視界方向における注意点を推定することができる。
注意点を推定後、注意情報生成部142は、形状についての注意情報を生成する(図5、ステップS106)。具体的には、注意情報生成部142は、ステップS104で特定された場所の近傍に所定の画像を配置することによって、形状についての注意情報を生成する。
図7は、形状についての注意情報CP1の例を示す説明図である。図7(A)は、注意情報CP1の第1の例を示している。図7(A)の注意情報CP1では、ステップS104で特定された場所(すなわち、テーブルソーの鋸刃部分)の近傍に、使用者に警告を連想させる文字である「!」と、アイコンである旨を強調するための三角形との組み合わせからなるアイコン画像IC1が配置されている。なお、ステップS104で特定された場所が複数ある場合は、当該複数の場所に対してそれぞれアイコン画像IC1が配置される。また、図7(A)に示したアイコン画像IC1はあくまで一例であり、注意情報CP1に配置される画像としては、使用者に警告を連想させる文字、絵柄、図形、およびこれらの組み合わせからなる画像である限り、どのような画像を採用してもよい。例えば、「注意」や「危険」等の文字を用いてもよいし、矢印等の図形を用いてもよい。また、例えば、財団法人家電製品協会(AEHA、Association for Electric Home Appliances)や、化学品の分類および表示に関する世界調和システム(GHS、Globally Harmonized System of Classification and Labelling of Chemicals)等の、所定の団体や規格の推奨に沿った表示を行ってもよい。このようにすれば、注意情報生成部142は、使用者に対して注意すべき旨をわかりやすく伝えることが可能な注意情報を生成することができる。
図7(B)は、注意情報CP1の第2の例を示している。図7(B)の注意情報CP1では、ステップS104で特定された場所(すなわち、テーブルソーの鋸刃部分)に重畳させて、テーブルソーの鋸刃の形状に対応して湾曲した楕円形形状を有する図形SB1が配置されている。なお、ステップS104で特定された場所が複数ある場合は、当該複数の場所に対して、それぞれ対応した形状を有する図形SB1が配置される。また、図7(B)に示した図形SB1はあくまで一例であり、注意情報CP1に配置される画像としては、ステップS104で特定された場所の形状に対応した形状を有する図形からなる画像である限り、どのような画像を採用してもよい。例えば、注意をより喚起するために、図形SB1の枠の内側に色を付してもよい。また、図形SB1は重畳表示ではなく、ステップS104で特定された場所の近傍に配置されてもよい。このようにすれば、注意情報生成部142は、使用者に対して注意すべき場所をわかりやすく伝えることが可能な注意情報を生成することができる。
形状についての注意情報を生成後、図5のステップS108において注意情報生成部142は、サーモグラフィー62から温度分布画像を取得する。具体的には、注意情報生成部142は、サーモグラフィー62を起動し、サーモグラフィー62に対して撮像を指示し、サーモグラフィー62によって撮像された温度分布画像を取得する。
温度分布画像を取得後、注意情報生成部142は、温度分布画像を画像解析することによって、使用者の視界方向における注意点を推定する(ステップS110)。ステップS110では、具体的に以下のような場所を「危険な場所・危険が予知される場所」であるとする。
(b1)温度分布画像において温度が第1の閾値以上である高温部。第1の閾値は任意に定めることができ、例えば、人間が触れると火傷のおそれがある温度とすることができる。
(b2)温度分布画像において温度が第2の閾値以下である低温部。第2の閾値は任意に定めることができ、例えば、人間が触れると皮膚組織が壊死するおそれがある温度とすることができる。
図6のように、テーブルソーが置かれた作業場においては、注意情報生成部142は、場所(b1)に該当する場所として、テーブルソーのモーター部分を特定する。
このようにすれば、注意情報生成部142は、温度分布画像と、温度に関する第1、第2の閾値とを用いることで、個別に予め用意された危険場所に関する情報を必要とせずに、使用者の視界方向における注意点を推定することができる。
注意点を推定後、注意情報生成部142は、温度についての注意情報を生成する(図5、ステップS112)。具体的には、注意情報生成部142は、ステップS110で特定された場所の近傍に所定の画像を配置することによって、温度についての注意情報を生成する。
図8および図9は、温度についての注意情報CP2の例を示す説明図である。図8(A)は、注意情報CP2の第1の例を示している。図8(A)の注意情報CP2では、ステップS110で特定された場所(すなわち、テーブルソーのモーター部分)に重畳させて、温度分布画像から温度が第1の閾値以上であった部分を抽出した抽出画像SP2が配置されている。なお、ステップS110において場所(b2)に該当する場所が特定された場合、抽出画像SP2としては、温度分布画像から温度が第2の閾値以下であった部分を抽出した画像が用いられる。また、ステップS110において場所(b1)、(b2)の両方に該当する場所が特定された場合、抽出画像SP2としては、温度分布画像から温度が第1の閾値以上であった部分と、第2の閾値以下であった部分との両方を抽出した画像が用いられる。また、図形SB2は重畳表示ではなく、ステップS110で特定された場所の近傍に配置されてもよい。このようにすれば、注意情報生成部142は、使用者に対して、注意すべき場所の温度分布や温度変化を分かりやすく伝えることが可能な注意情報を生成することができる。また、抽出画像SP2は、温度分布画像から温度が第1または第2の閾値を超える場所(第2の閾値の場合は下限を超過する場所)を抽出した画像であるため、温度分布画像をそのまま注意情報として使用する場合と比較して、使用者の視界を過度に遮らない態様で使用者に注意を促すことのできる注意情報を生成することができる。
図8(B)は、注意情報CP2の第2の例を示している。図8(B)の注意情報CP2では、ステップS110で特定された場所(すなわち、テーブルソーのモーター部分)の近傍に、使用者に高温注意の警告を連想させるマークと、アイコンである旨を強調するための三角形との組み合わせからなるアイコン画像IC2が配置されている。なお、ステップS110で特定された場所が複数ある場合は、当該複数の場所に対してそれぞれアイコン画像IC2が配置される。また、図8(B)に示したアイコン画像IC2はあくまで一例であり、注意情報CP2に配置される画像としては、使用者に警告を連想させる文字、絵柄、図形、およびこれらの組み合わせからなる画像である限り、どのような画像を採用してもよい。また、所定の団体や規格の推奨に沿った表示を行ってもよい。詳細は図7(A)と同様である。
図9は、注意情報CP2の第3の例を示している。図9の注意情報CP2では、ステップS110で特定された場所(すなわち、テーブルソーのモーター部分)に重畳させて、テーブルソーのモーターの形状に対応した略楕円形形状を有する図形SB2が配置されている。なお、ステップS110で特定された場所が複数ある場合は、当該複数の場所に対して、それぞれ対応した形状を有する図形SB2が配置される。また、図9に示した図形SB2はあくまで一例であり、注意情報CP2に配置される画像としては、ステップS110で特定された場所の形状に対応した形状を有する図形からなる画像である限り、どのような画像を採用してもよい。詳細は図7(B)と同様である。また、図形SB2は重畳表示ではなく、ステップS110で特定された場所の近傍に配置されてもよい。
温度についての注意情報を生成後、図5のステップS114において注意情報生成部142は、注意情報を表示させる。具体的には、注意情報生成部142は、画像処理部160に対して形状についての注意情報CP1と、温度についての注意情報CP2とを送信する。注意情報CP1、CP2を受信した画像処理部160は、注意情報CP1、CP2を各レイヤーとした合成画像を生成し、生成した合成画像に対して、図2で説明した表示処理を実行する。この結果、図10に示すように、ヘッドマウントディスプレイ100の使用者の視野VRには、注意情報CP1とCP2とが、虚像VIとして表示される。本実施形態におけるヘッドマウントディスプレイ100は、使用者が虚像を視認すると同時に外景も視認可能な光学透過型のヘッドマウントディスプレイである。このため、ヘッドマウントディスプレイ100の使用者は、右光学像表示部26および左光学像表示部28を透過して見える外景SCの中の作業場と、虚像VIとして見える注意情報CP1、CP2とが、重畳された状態で視認可能となる。
図10は、使用者が視認可能な像の一例を示す説明図である。図10(A)は、使用者が視認可能な像の第1の例を示している。第1の例では、注意喚起処理のステップS104で特定された場所(すなわち、テーブルソーの鋸刃部分)の近傍に、使用者に注意を喚起させるためのアイコン画像IC1が配置されている。第1の例ではさらに、注意喚起処理のステップS110で特定された場所(すなわち、テーブルソーのモーター部分)に重畳させて、使用者に注意を喚起させるための抽出画像SP2が配置されている。図10(B)は、使用者が視認可能な像の第2の例を示している。第2の例では、ステップS104で特定された場所(すなわち、テーブルソーの鋸刃部分)に重畳させて、使用者に注意を喚起させるための図形SB1が配置されている。第2の例ではさらに、ステップS110で特定された場所(すなわち、テーブルソーのモーター部分)の近傍に、使用者に注意を喚起させるためのアイコン画像IC2が配置されている。
なお、注意喚起処理のステップS102〜S106に示した「形状についての注意情報CP1の生成処理」と、ステップS108〜S112に示した「温度についての注意情報CP1の生成処理」とは、いずれか一方だけが実行されてもいい。
以上のように、第1実施形態の注意喚起処理(図5)では、注意情報生成部142は、使用者の視界方向の画像(図6)に基づいて注意情報CP1、CP2を生成し、画像表示部20は、生成された注意情報CP1、CP2を虚像として使用者に視認させる。注意情報生成部142は、外景画像の画像認識、または、温度分布画像の画像解析によって使用者の視界方向における注意点を推定する。このため、個別に予め用意された危険場所に関する情報を必要とせずに使用者の視界方向における危険等の注意点を推定し、使用者に注意を促すことが可能なヘッドマウントディスプレイ100(頭部装着型表示装置)を実現することができる。
さらに、注意情報生成部142は、使用者が注意を要する場所の近傍に所定の画像(例えば、アイコン画像IC1と、図形SB1と、抽出画像SP2と、アイコン画像IC2と、図形SB2等)を配置した注意情報CP1、CP2を生成する。このため、ヘッドマウントディスプレイ100(頭部装着型表示装置)は、使用者の視界を過度に遮らない態様で、使用者に注意を促すことができる。また、所定の画像(例えば、アイコン画像IC1と、図形SB1と、抽出画像SP2と、アイコン画像IC2と、図形SB2等)は、使用者が注意を要する場所の近傍に配置されるため、使用者に対して、注意すべき場所をわかりやすく伝えることができる。
A−3.注意喚起処理における付加的処理:
なお、注意喚起処理(図5)では、さらに、以下のような付加的処理1〜3を行ってもよい。付加的処理1〜3は、単独で付加してもよいし、組み合わせて付加してもよい。
A−3−1.付加的処理1:
付加的処理1では、虚像の表示領域と、画像取得部(カメラ61、サーモグラフィー62)の取得領域とのキャリブレーションを行う。注意情報生成部142は、注意喚起処理(図5)に先立って、下記A〜Gに示す処理を行う。
(A)記憶部120に、キャリブレーションのためのガイド画像の画像データー(以降「ガイド画像データー」とも呼ぶ。)を予め記憶させておく。ガイド画像は、ヘッドマウントディスプレイ100の使用者に対して、虚像の表示領域の端部を示すための画像である。例えば、ガイド画像は、右LCD241および左LCD242と同じアスペクト比を有する矩形形状で、白色一色の背景を有する画像であり、その四隅と、対角線の交点に位置する部分とに、円状の案内マークを有する画像とすることができる。
(B)注意情報生成部142は、記憶部120に格納されているガイド画像データーを読み出して、ガイド画像データーを画像処理部160へ送信する。ガイド画像データーを受信した画像処理部160では、図2で説明した処理が実行される。この結果、ヘッドマウントディスプレイ100の使用者の視野VRにはガイド画像が虚像VIとして表示される。
(C)注意情報生成部142は、虚像VIとして表示されたガイド画像の案内マークを順に指差すように、使用者に対して案内する。使用者に対する案内の方法として、ダイアログボックス等を用いたメッセージを用いてもよいし、音声による案内を行っても良い。音声による案内は、表示中のガイド画像を遮ることなく案内することができる点で好ましい。
(D)注意情報生成部142は、カメラ61に外景画像を撮像させる。
(E)注意情報生成部142は、カメラ61により撮像された外景画像を画像認識して、人間の指先の位置を特定する。注意情報生成部142は、各案内マークについて、指先位置の座標を取得し、記憶部120へ保存する。例えば、指先位置の座標は、外景画像の最も左上部分の画素を(0,0)とした場合のX方向、Y方向の移動量として定義することができる。
(F)注意情報生成部142は、全ての案内マークについて、外景画像の取得、指先位置の座標取得、座標の保存の一連の処理を繰り返す。その後、注意情報生成部142は、ガイド画像の表示を終了させる。このようにして、注意情報生成部142は、カメラ61の撮像領域と、虚像VIの表示領域とが重複する領域を予め取得する。なお、カメラ61の撮像領域(取得領域)と虚像VIの表示領域とが重複する領域のことを「重複領域」とも呼ぶ。
(G)注意情報生成部142は、注意喚起処理(図5)のステップS104において、カメラ61により撮像された外景画像のうち、重複領域内の画像を画像認識する。そして、ステップS106において重複領域に対応した注意情報CP1を生成する。同様に、注意情報生成部142は、注意喚起処理のステップS110において、サーモグラフィー62により撮像された温度分布画像のうち、重複領域内の画像を画像解析する。そして、ステップS112において重複領域に対応した注意情報CP2を生成する。
なお、上記では、カメラ61の画像取得領域と、サーモグラフィー62の画像取得領域とが同一であることを前提として、カメラ61でのみキャリブレーションを行う手順を示した。しかし、カメラ61の画像取得領域とサーモグラフィー62の画像取得領域とが異なる場合は、サーモグラフィー62についても上記と同様の処理を行うことができる。
このようにすれば、注意情報生成部142は、虚像VIの表示領域とカメラ61およびサーモグラフィー62(画像取得部)の取得領域とが重複する重複領域に対して注意情報CP1、CP2を生成することができる。このため、透過型のヘッドマウントディスプレイ100(頭部装着型表示装置)において生じる課題であった「使用者が自身の視界において直接目にする像と、画像表示部20により視認させられる虚像VIとの間のずれ」の発生を低減させることができる。この結果、注意情報CP1、CP2を虚像として視認させた場合に、使用者に与える違和感を低減させることができる。
A−3−2.付加的処理2:
付加的処理2では、音声を用いてヘッドマウントディスプレイ100の使用者に注意を促す。注意情報生成部142は、注意喚起処理(図5)において、下記H〜Jに示す処理を行う。
(H)注意情報生成部142は、注意喚起処理(図5)のステップS106において、注意情報CP1の生成に加えて、注意喚起用の音声データーを生成する。音声データーは、ステップS104において特定された場所の種類a1〜a3に応じて変更されることが好ましい。例えば、ステップS104において場所(a2)に該当する場所が特定された場合、注意情報生成部142は「体や着衣を挟み込まれるおそれのある場所があります。注意してください。」等の音声データーを生成する。
(I)注意情報生成部142は、注意喚起処理のステップS112において、注意情報CP2の生成に加えて、注意喚起用の音声データーを生成する。音声データーは、ステップS110において特定された場所の種類b1、b2に応じて変更されることが好ましい。たとえば、ステップS110において場所(b1)に該当する場所が特定された場合、注意情報生成部142は「高温の場所があります。やけどに注意してください。」等の音声データーを生成する。
(J)注意情報生成部142は、注意喚起処理のステップS114において、注意情報に加えて、上記の処理H、Iで生成した音声データーを音声処理部170へ送信する。音声データーを受信した音声処理部170は、取得した音声データーに基づいて、右イヤホン32のスピーカー(発音体)と、左イヤホン34のスピーカー(発音体)とに対して音声信号を供給する。
このようにすれば、注意情報生成部142はさらに、音声を通じてヘッドマウントディスプレイ100の使用者に注意を促すことができる。
A−3−3.付加的処理3:
付加的処理3では、触覚を通じた刺激を用いてヘッドマウントディスプレイ100の使用者に注意を促す。付加的処理3を実現するために、図1に示したヘッドマウントディスプレイ100において、右保持部21および左保持部23の内側、換言すれば、ヘッドマウントディスプレイ100の装着時における使用者の頭部に対向する側であって、ヘッドマウントディスプレイ100の装着時における使用者の側頭部に対応する位置に、加圧部と、振動モーターとを備える構成とする。
加圧部は、伸縮可能な外側部材に空気を内包している。加圧部は、内包された空気量を増減させることによって、自身の体積を増減することができる。ヘッドマウントディスプレイ100が使用者の頭部に装着された状態において、加圧部の体積を増加させることによって、使用者の頭部へ圧力を加えること、換言すれば、使用者に対して触覚を通じた刺激を加えることができる。加圧部の外側部材は、例えば、ゴムやポリウレタン等の肌当たりの良い材料により形成されることが好ましい。そうすれば、ヘッドマウントディスプレイ100の装着感を向上させることができる。
振動モーターは、モーターの軸に偏芯回転のための錘が設けられ、作動時に振動を発生することができる。ヘッドマウントディスプレイ100が使用者の頭部に装着された状態において、振動モーターがモーターを作動させることにより、使用者の頭部へ振動を加えること、換言すれば、使用者に対して触覚を通じた刺激を加えることができる。なお、加圧部と振動モーターとを総称して「触覚刺激部」とも呼ぶ。
注意情報生成部142は、注意喚起処理のステップS114において、注意情報の送信に加えて、加圧部と、振動モーターとを作動させる。なお、この際、ステップS104およびステップS110で特定された場所に応じて、加圧部の駆動レベル(加圧強さ)と、振動モーターの駆動レベル(振動強さ、振動周期)とを変化させてもよい。
このようにすれば、注意情報生成部142はさらに、触覚を通じた刺激を用いて、ヘッドマウントディスプレイ100の使用者に注意を促すことができる。
B.第2実施形態:
本発明の第2実施形態では、頭部装着型表示装置において、使用者が行う作業を支援すると共に、当該作業に付随する危険等の注意点を使用者に知らせることが可能な構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.頭部装着型表示装置の構成:
図11は、第2実施形態におけるヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。図2に示した第1実施例との違いは、制御部10に代えて制御部10aを備える点である。制御部10aは、注意情報生成部142に代えて注意情報生成部142aを備え、さらに、手順管理部144と、手順管理テーブル122とを備えている。注意情報生成部142aと、手順管理部144とは、協働することによって手順管理処理を実行する。
図12は、手順管理テーブル122の一例を示す説明図である。手順管理テーブル122は、後述の手順管理処理において使用されるテーブルである。手順管理テーブル122は、記憶部120内に予め格納されている。手順管理テーブル122は、作業番号と、手順番号と、手順名と、指示内容と、ヒヤリハット事例と、事故事例と、制限と、のフィールドを含んでいる。なお、手順管理テーブル122は、特許請求の範囲における「注意点データー」に相当する。
作業番号には、作業を一意に識別するための識別子が格納されている。識別子は、文字列からなり、例えば英数字の組み合わせとすることができる。手順番号以降の各フィールドには、作業番号により特定される作業に含まれる複数の手順に関する種々の情報が格納されている。
手順番号には、手順を一意に識別するための識別子が格納されている。識別子は、文字列からなり、例えば英数字の組わせとすることができる。図12の例では、作業内の複数の手順は、手順番号の昇順に進行させることを想定している。手順名には、当該手順の名称が格納されている。指示内容には、当該手順において、使用者が実施すべき内容を表す情報が格納されている。なお、図12の例では、指示内容を使用者に対する案内文形式の文章で表現しているが、指示内容の文章形式は任意に定めることができる。また、指示内容は文章に限らず、写真や図面(組立図、配置図、回路図等)で表現されてもよいし、それらを組み合わせて表現されてもよい。
ヒヤリハット事例には、当該手順において過去に発生したヒヤリハット事例の有無が格納されている。なお、ヒヤリハットとは、事故には至らないものの、事故一歩手前、換言すれば、事故に至っても不思議ではない事例の発見を意味する。事故事例には、当該手順において過去に発生した事故事例の有無が格納されている。なお、事故には災害も含む。制限には、当該手順から次の手順に遷移するまでの間に、注意情報生成部142aが確認すべき事項を表す情報が格納されている。詳細は後述する。
図12の例では、例えば、作業番号1で識別される作業には、手順番号1〜27で識別される27個の手順が含まれることがわかる。また、手順番号1で識別される手順において使用者が実施すべき内容は「木材の準備」であることがわかる。さらに、手順番号1で識別される手順においては、過去にヒヤリハット事例および事故事例がないことがわかる。さらに、手順番号1で識別される手順から、次の手順、すなわち手順番号2で識別される手順に遷移するまでの間に、注意情報生成部142aが確認すべき事項はないことがわかる。このように、手順管理テーブル122は、手順と、当該手順内において使用者が実施すべき内容と、当該手順内における過去の事故やヒヤリハットに関する情報と、を関連付けている。
B−2.手順管理処理:
図13は、第2実施形態における手順管理処理の手順を示すフローチャートである。第2実施形態では、図5で説明した注意喚起処理に代えて、図13で示す手順管理処理が実行される。手順管理処理は、使用者が行う作業を支援すると共に、当該作業に付随する危険等の注意点を使用者に知らせる処理である。手順管理処理の開始トリガーは任意に定めることができる。例えば、ヘッドマウントディスプレイ100aが起動されたことを開始トリガーとしてもよいし、OS150や特定のアプリケーションからの処理開始要求を開始トリガーとしてもよい。なお、手順管理処理が特定のアプリケーションから呼び出されて実行される場合、手順管理処理は、特定のアプリケーションのサブルーチンとして動作する。
手順管理部144は、現在の手順を特定する(ステップS202)。具体的には、手順管理部144は、カメラ61を起動し、カメラ61に対して撮像を指示し、カメラ61によって撮像された外景画像を取得する。手順管理部144は、取得した外景画像を画像認識することによって、手順管理テーブル122に格納されている複数の手順から、現在の手順を特定する。このようにすれば、手順管理部144は、カメラ61(画像取得部)により取得された使用者の視界方向の画像(外景画像)に基づいて、自動的に現在の手順を特定することができる。
注意情報生成部142aは、現在の手順について事例が存在するか否かを判定する(ステップS204)。具体的には、注意情報生成部142aは、手順管理テーブル122の現在の手順を示すエントリーを参照する。そして、当該エントリーのヒヤリハット事例のフィールドの値と事故事例のフィールドの値との少なくともいずれか一方が「あり」である場合、事例ありと判定し、他の場合は事例なしと判定する。事例なしと判定した場合(ステップS204:NO)、注意情報生成部142aは処理をステップS208へ遷移させる。
事例ありと判定した場合(ステップS204:YES)、注意情報生成部142aは、事例についての注意情報を生成する(ステップS206)。具体的には、注意情報生成部142aは、手順管理テーブル122を参照し、現在の手順に関連付けられているヒヤリハット事例と事故事例の有無を用いて、事例についての注意情報を生成する。
図14は、事例についての注意情報CP3の例を示す説明図である。図14は、注意情報CP3の例1の例を示している。図14(A)の注意情報CP3では、右上側の端部に、使用者に警告を連想させる文字である「!」と、アイコンである旨を強調するための三角形との組み合わせからなるアイコン画像IC3が配置されている。なお、図14(A)に示したアイコン画像IC3はあくまで一例であり、アイコン画像IC3としては、使用者に警告を連想させる文字、絵柄、図形、およびこれらの組み合わせからなる画像である限り、どのような画像を採用してもよい。例えば、所定の団体や規格の推奨に沿った表示を行ってもよい。
また、注意情報CP3の右側の端部であってアイコン画像IC3の下部には、使用者に注意を促す画像である「事故事例あり」というメッセージMG3が配置されている。なお、メッセージMG3としては、使用者に注意を促す旨を示す画像である限り、どのような画像を採用してもよい。ただし、ステップS204でヒヤリハット事例ありと判断された場合と、事故事例ありと判断された場合とでは、異なる画像とすることが好ましい。そうすれば、注意情報生成部142aは、現在の手順において過去に事故が存在する場合とヒヤリハットが存在する場合とにおいて、異なる注意情報CP3を生成することができるため、使用者は、現在の手順において過去に発生した事例が事故であるのか、ヒヤリハットであるのかを知ることができる。
図14(B)は、注意情報CP3の第2の例を示している。第2の例を採用する場合、手順管理テーブル122(図12)にはさらに、図形SB3を配置させる場所(座標)と、図形SB3の形状と、を予め記憶させておく。図形SB3を配置させる場所は、過去に事故またはヒヤリハットが発生した場所の近傍とすることが好ましい。図14(B)の注意情報CP3では、手順管理テーブル122に記憶されている座標に、手順管理テーブル122に記憶されている形状の図形SB3が配置されている。なお、手順管理テーブル122に複数の座標と形状の組が記憶されている場合は、当該複数の座標に対して、それぞれ対応する形状の画像SB3が配置される。また、右側の端部には、使用者に注意を促す画像である「事故事例あり」というメッセージMG3が配置されている。メッセージMG3については、図14(A)と同様である。
なお、図14(A)、(B)で説明した注意情報CP3では、以下のような変形が可能である。
(i)アイコン画像IC3、画像SB3、メッセージMG3の配置は、任意に変更することができる。ただし、使用者の視界を過度に遮らない態様で使用者に注意を促すためには、アイコン画像IC3と、メッセージMG3とは、注意情報CP3の端部(換言すれば四辺の近傍)に配置されることが好ましい。
(ii)注意情報生成部142aは、使用者の特徴に応じて異なる注意情報CP3を生成してもよい。なお、使用者の特徴は、年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか1つを含む。例えば、注意情報生成部142aは、使用者の年齢に応じて、アイコン画像IC3、画像SB3、メッセージMG3の大きさを変更してもよい。例えば、注意情報生成部142aは、使用者の作業に対する熟練度が低い場合は注意情報CP3にアイコン画像IC3とメッセージMG3とを配置し、使用者の作業に対する熟練度が高い場合は注意情報CP3にメッセージMG3のみを配置してもよい。なお、使用者の特徴は、予め取得して記憶部120内に記憶させておいてもよいし、手順管理処理を開始する前に、その都度取得してもよい。このようにすれば、注意情報生成部142aは、使用者の特徴に応じたきめ細かな注意情報CP3の生成を行うことができる。
事例についての注意情報を生成後、図13のステップS208において手順管理部144は、手順情報を生成する。具体的には、手順管理部144は、手順管理テーブル122を参照し、現在の手順に関連付けられている指示内容を用いて、手順情報を生成する。
図15は、手順情報CP4の例を示す説明図である。図15(A)は、手順情報CP4の第1の例を示している。図15(A)の手順情報CP4では、下側の端部に、使用者が実施すべき内容を表す画像である「丸鋸刃NoXXXをとりつけてください」というメッセージMG4が配置されている。メッセージMG4は、手順管理テーブル122において現在の手順に関連付けられている指示内容フィールドの値である。なお、メッセージMG4の配置は、任意に変更することができる。ただし、使用者の視界を過度に遮らない態様で使用者に実施すべき内容を案内するためには、メッセージMG4は、手順情報CP4の端部(換言すれば四辺の近傍)に配置されることが好ましい。
図15(B)は、手順情報CP4の第2の例を示している。図15(B)の手順情報CP4では、下側の端部に、使用者が実施すべき内容を表す画像である「丸鋸刃NoXXXをとりつけてください」というメッセージMG4が配置されている。メッセージMG4については、図15(A)と同様である。
また、手順情報CP4の左下側の端部であってメッセージMG4の上部には、使用者の現在位置と、メッセージMG4に含まれる工具である「丸鋸刃NoXXX」の所在とをプロットした地図MP4が配置されている。使用者の現在位置は、予め記憶部120内に記憶されている作業場内のレイアウトと現在の手順との関係から推定してもよいし、ヘッドマウントディスプレイ100aにGPS(Global Positioning System)等の現在位置取得部を搭載してGPSの測位値により求めてもよい。なお、図15(B)に示した地図MP4はあくまで一例であり、使用者を補助するための情報(画像)である限り、どのような画像が配置されてもよい。また、地図MP4の配置は、任意に変更することができる。使用者の視界を過度に遮らない態様で使用者を補助するための情報を案内するためには、地図MP4を表示させるためのアイコンを手順情報CP4の端部(換言すれば四辺の近傍)に配置してもよい。
手順情報を生成後、図13のステップS210において、注意情報生成部142aは事例についての注意情報を表示させ、手順管理部144は手順情報を表示させる。具体的には、注意情報生成部142aは画像処理部160に対して事例についての注意情報CP3を送信し、手順管理部144は画像処理部160に対して手順情報CP4を送信する。注意情報CP3と手順情報CP4とを受信した画像処理部160は、注意情報CP3と手順情報CP4とを各レイヤーとした合成画像を生成し、生成した合成画像に対して、図2で説明した表示処理を実行する。この結果、図16に示すように、ヘッドマウントディスプレイ100aの使用者の視野VRには、注意情報CP3と手順情報CP4とが、虚像VIとして表示される。本実施形態におけるヘッドマウントディスプレイ100aは、使用者が虚像を視認すると同時に外景も視認可能な光学透過型のヘッドマウントディスプレイである。このため、ヘッドマウントディスプレイ100aの使用者は、右光学像表示部26および左光学像表示部28を透過して見える外景SCの中の作業場と、虚像VIとして見える注意情報CP3と手順情報CP4とが、重畳された状態で視認可能となる。
図16は、使用者が視認可能な像の一例を示す説明図である。図16(A)は、使用者が視認可能な像の第1の例を示している。第1の例では、虚像VIの右上側の端部に、使用者に注意を喚起させるためのアイコン画像IC3が配置されている。同様に、虚像VIの右側の端部であってアイコン画像IC3の下部には、使用者に注意を喚起させるためのメッセージMG3が配置されている。虚像VIの下側の端部には使用者が実施すべき内容を表したメッセージMG4が配置されている。図16(B)は、使用者が視認可能な像の第2の例を示している。第2の例では、虚像VIの右側の端部に使用者に注意を喚起させるためのメッセージMG3が配置されている。同様に、虚像VIの下側の端部には使用者が実施すべき内容を表したメッセージMG4が配置されている。虚像VIの左下側の端部であってメッセージMG4の上部には、使用者を補助するための情報MP4が配置されている。なお、図16では、図示の便宜上、メッセージMG3と、メッセージMG4と、地図MP4とを透過して見える外景部分については記載を省略している。実際は、使用者は、メッセージの文字を透過して、テーブルソーの脚を視認することができる。地図についても同様である。
以上のように、第2実施形態の手順管理処理(図13)のステップS202〜S210では、画像表示部20は、現在の手順について使用者が実施すべき内容を表した手順情報CP4と、当該手順に予め記憶されている注意情報が存在する場合に使用者に注意を促すための注意情報CP3と、の両方を虚像VIとして使用者に視認させる。このため、使用者が行う作業を支援すると共に、当該作業に付随する注意点を使用者に知らせることが可能なヘッドマウントディスプレイ100a(頭部装着型表示装置)を実現することができる。
さらに、注意情報生成部142aは、手順と、当該手順内における過去の事故やヒヤリハットに関する情報との関連付けを記憶する手順管理テーブル122を用いて、簡便に注意情報CP3を生成することができる。同様に、手順管理部144は、手順と、当該手順内において使用者が実施すべき内容との関連付けを記憶する手順管理テーブル122を用いて、簡便に手順情報CP4を生成することができる。
注意情報と手順情報を表示後、図13のステップS212において手順管理部144は、次の手順への制限があるか否かを判定する。具体的には、手順管理部144は、手順管理テーブル122の現在の手順を示すエントリーを参照する。そして、当該エントリーの制限フィールドの値が「なし」である場合、次の手順への制限はないと判定し、他の場合は次の手順への制限があると判定する。次の手順への制限がないと判定した場合(ステップS212:NO)、手順管理部144は処理をステップS218へ遷移させる。
次の手順への制限があると判定した場合(ステップS212:YES)、手順管理部144は、確認処理を実行する(ステップS214)。確認処理とは、作業の安全性を確認するために、現在の手順から次の手順に遷移するまでの間に実行される処理である。確認処理の内容は任意に定めることができ、現在の手順についての後確認に相当する処理や、次の手順についての前確認に相当する処理を採用可能である。本実施形態では、確認処理において、大別して以下の2種類の処理を行うこととする。
(I)使用者から「確認」の意思表示を取得する処理。
(II)カメラ61(画像取得部)により取得された外景画像を画像認識し、画像認識の結果が予め定められた条件を満たすことを確認する処理、または、サーモグラフィー62(画像取得部)により取得された温度分布画像の画像解析し、画像解析の結果が予め定められた条件を満たすことを確認する処理。ステップS214において手順管理部144が、上記(I)、(II)のどちらの処理を実行するかは、手順管理テーブル122の制限フィールドの値によって決定される。
図17は、処理(I)を説明するための説明図である。処理(I)は、使用者から「確認」の意思表示を取得する処理である。処理(I)は、図12に示した手順管理テーブル122の例では、制限フィールドの値が「OK操作」である場合に実行される。手順管理部144は、使用者から「確認」の意思表示を取得するための確認用画像CW1を生成し、画像処理部160へ送信する。確認用画像CW1には、次の手順に進んでもよいか、という旨を問いかけるメッセージと、はいボタンと、いいえボタンとが含まれている。画像処理部160は、受信済みの注意情報CP3と手順情報CP4と、受信した確認用画像CW1とを各レイヤーとした合成画像を生成し、生成した合成画像に対して、図2で説明した表示処理を実行する。この結果、図17に示すように、ヘッドマウントディスプレイ100aの使用者の視野VRには、注意情報CP3と手順情報CP4とに加えて、さらに、確認用画像CW1が虚像VIとして表示される。なお、図17では、図示の便宜上、メッセージMG3と、メッセージMG4と、確認用画像CW1とを透過して見える外景部分については記載を省略している。
ヘッドマウントディスプレイ100aの使用者は、制御部10のタッチパッド14や十字キー16を操作し、はいボタンを押下する。制御部10は、タッチパッド14や十字キー16による入力内容を手順管理部144へ送信する。手順管理部144は、はいボタンが押下された場合に確認処理が成功したと判定する。一方、手順管理部144は、いいえボタンが押下された場合に確認処理が失敗したと判定する。
図18は、処理(II)を説明するための説明図である。処理(II)は、カメラ61(画像取得部)により取得された外景画像を画像認識し、画像認識の結果が予め定められた条件を満たすことを確認する処理、または、サーモグラフィー62(画像取得部)により取得された温度分布画像を画像解析し、画像解析の結果が予め定められた条件を満たすことを確認する処理である。「予め定められた条件」とは、確認処理の内容、換言すれば、手順管理テーブル122の制限フィールドの値によって変動する。図12に示した手順管理テーブル122の例では、処理(II)は、制限フィールドの値が「手袋を外していること」または「工作物が取り付けられていること」である場合に実行される。以降では、制御フィールドの値が「手袋を外していること」であった場合、かつ、確認処理としてカメラ61による画像認識を採用した場合について例示して説明する。
図18(A)は、確認用画像CW2の一例を示している。手順管理部144は、カメラ61による外景画像の取得に先立って、使用者に指示を与えるための確認用画像CW2を生成し、画像処理部160へ送信する。確認用画像CW2には、「手袋を外して手をカメラにかざしてください」という指示メッセージが含まれている。指示メッセージの内容は、確認処理の内容、換言すれば、手順管理テーブル122の制限フィールドの値によって変動する。なお、指示メッセージは文字列に限らず、写真やイラストであってもよい。確認用画像CW2を受信した画像処理部160は図17と同様の処理を行う。この結果、使用者の視野VRには、注意情報CP3と手順情報CP4と確認用画像CW2とが虚像VIとして表示される。なお、図18(A)では、図示の便宜上、確認用画像CW2を透過して見える外景部分については記載を省略している。
ヘッドマウントディスプレイ100aの使用者は、指示メッセージに従い、手袋を外した手をカメラにかざす。手順管理部144は、確認用画像CW2の送信から所定時間経過後、カメラ61に対して撮像を指示し、カメラ61によって撮像された外景画像を取得する。手順管理部144は、取得した外景画像を画像認識することによって、人間の素手を認識する。手順管理部144は、素手が認識できた場合に確認処理が成功したと判定する。一方、手順管理部144は、素手が認識できなかった場合に確認処理が失敗したと判定する。なお、確認処理に成功した場合、手順管理部144は、図18(B)に示す確認用画面CW3を表示させてもよい。確認用画面CW3には、確認処理に成功した旨のメッセージが含まれている。なお、図18(B)では、図示の便宜上、確認用画像CW3を透過して見える外景部分については記載を省略している。
図13のステップS216において手順管理部144は、確認処理に成功したか否かを判定する。確認処理に失敗した場合(ステップS216:NO)、手順管理部144は、処理をステップS214へ遷移させ、確認処理を再試行する。確認処理に成功した場合(ステップS216:YES)、手順管理部144は、処理をステップS218へ遷移させる。
手順管理部144は、全手順について処理が終了したか否かを判定する(ステップS218)。具体的には、手順管理部144は、手順管理テーブル122の同一の作業番号を有する全てのエントリーについて、ステップS202〜S218の処理を終了したか否かを判定する。全手順についての処理は未だ終了していないと判定した場合(ステップS218:NO)、手順管理部144は、処理をステップS202へ遷移させ、次の手順を「現在の手順」として特定し、上述の処理を繰り返す。全手順について処理が終了したと判定した場合(ステップS218:YES)、手順管理部144は、処理を終了する。
なお、図18で説明した処理(I)、(II)は、以下のような変形が可能である。
・手順管理部144は、使用者の特徴に応じて、処理(I)、(II)を使い分けてもよい。なお、使用者の特徴は、年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか1つを含む。
例えば、手順管理部144は、使用者の熟練度が高い場合は処理(I)を実行し、使用者の熟練度が低い場合は処理(II)を実行することとしてもよい。このようにすれば、手順管理部144は、使用者の特徴に応じたきめ細かな確認処理を行うことができる。
・処理(II)において、手順管理部144は、使用者の特徴に応じた異なる条件を用いて、外景画像の画像認識結果の判定、または、温度分布画像の画像解析結果の判定を行ってもよい。
例えば、手順管理部144は、使用者の熟練度に応じて、両手が素手であることが認識できた場合に確認処理が成功したと判定する、少なくとも片手が素手であることが認識できた場合に確認処理が成功したと判定する、両手に手袋を装着していても確認処理が成功したと判定する、等の条件の使い分けをしてもよい。このようにすれば、手順管理部144は、使用者の特徴に応じたきめ細かな確認処理を行うことができる。
・処理(II)において、手順管理部144は、サーモグラフィー62により取得された温度分布画像を画像解析し、作業の安全性を確認してもよい。例えば、手順管理部144は、確認用画像CW2を用いてサーモグラフィー62に使用者の足元の温度分布画像を取得させる。手順管理部144は、取得した温度分布画像を画像解析し、つま先部分の温度が所定温度以上でないことを確認することで、使用者が安全靴を着用しているか否かを判定してもよい。このようにすれば、手順管理部144は、「温度」という観点からも確認処理を実行することができる。
以上のように、第2実施形態の手順管理処理(図13)のステップS212〜S216では、手順管理部144は、現在の手順を案内するための手順情報CP4を生成後、次の手順を案内するための手順情報CP4の生成に遷移するまでの間に、ステップS214で説明した所定の確認処理を行う。このため、第2実施形態のヘッドマウントディスプレイ100a(頭部装着型表示装置)では、手順内の作業の安全性を向上させることができる。具体的には、ステップS214の所定の確認処理のうちの処理(I)を採用すれば、手順管理部144は、現在の手順と次の手順との間において使用者に対して何らかの確認を行い、使用者からの確認の意思表示を取得することで、手順内の作業の安全性を向上させることができる。ステップS214の所定の処理のうちの処理(II)を採用すれば、手順管理部144は、現在の手順と次の手順との間において使用者の視界方向の画像を画像認識し、画像認識の結果が予め定められた条件を満たすことを確認することで、手順内の作業の安全性を向上させることができる。
B−3.手順管理処理における付加的処理:
なお、手順管理処理(図13)では、さらに、以下のような付加的処理1〜3を行ってもよい。付加的処理1〜3は、単独で付加してもよいし、組み合わせて付加してもよい。
B−3−1.付加的処理1:
付加的処理1では、虚像の表示領域と、画像取得部(カメラ61、サーモグラフィー62)の取得領域とのキャリブレーションを行う。注意情報生成部142aと手順管理部144は、手順管理処理(図13)に先立って、下記A〜F、G1に示す処理を行う。
(A)〜(F)は、第1実施形態と同様であるため説明を省略する。ただし、注意情報生成部142は、注意情報生成部142aと読み替える。
(G1)注意情報生成部142aは、手順管理処理(図13)のステップS206において、重複領域に対応した注意情報CP3を生成する。手順管理部144は、手順管理処理のステップS218において、重複領域に対応した手順情報CP4を生成する。
このようにすれば、手順管理部144と注意情報生成部142aとは、それぞれ、虚像VIの表示領域とカメラ61およびサーモグラフィー62(画像取得部)の取得領域とが重複する重複領域に対して、手順情報CP4と注意情報CP3とを生成する。このため、透過型のヘッドマウントディスプレイ100(頭部装着型表示装置)において生じる課題であった「使用者が自身の視界において直接目にする像と、画像表示部20により視認させられる虚像VIとの間のずれ」の発生を低減させることができる。この結果、手順情報CP4と注意情報CP3とを虚像として視認させた場合に、使用者に与える違和感を低減させることができる。
B−3−2.付加的処理2:
付加的処理2では、音声を用いてヘッドマウントディスプレイ100aの使用者に注意を促す。注意情報生成部142aは、手順管理処理(図13)において、下記H1、J1に示す処理を行う。
(H1)注意情報生成部142aは、手順管理処理(図13)のステップS206において、注意情報CP3の生成に加えて注意喚起用の音声データーを生成する。音声データーは、手順管理テーブル122のヒヤリハット事例フィールド、および、事故事例フィールドの値の有無によって変更されることが好ましい、例えば、ヒヤリハット事例フィールドの値が「あり」、事故事例フィールドの値が「なし」である場合、注意情報生成部142aは「本手順は過去にヒヤリハット事例がありました。注意してください。」等の音声データーを生成する。
(J1)注意情報生成部142aは、手順管理処理のステップS210において、注意情報に加えて、上記の処理H1で生成した音声データーを音声処理部170へ送信する。音声データーを受信した音声処理部170は、取得した音声データーに基づいて、右イヤホン32のスピーカー(発音体)と、左イヤホン34のスピーカー(発音体)とに対して音声信号を供給する。
このようにすれば、注意情報生成部142aはさらに、音声を通じてヘッドマウントディスプレイ100aの使用者に注意を促すことができる。なお、手順管理部144による音声データーの生成も付加することができる。手順管理部144によって生成される音声データーは、手順情報CP4によって案内される内容を音声化したものである。
B−3−3.付加的処理3:
付加的処理3では、触覚を通じた刺激を用いてヘッドマウントディスプレイ100aの使用者に注意を促す。付加的処理3を実現するために、図11に示したヘッドマウントディスプレイ100aにおいて、右保持部21および左保持部23の内側に、加圧部と、振動モーターとを備える構成とする。詳細は第1実施形態の「A−3−3.付加的処理3」と同様である。注意情報生成部142aは、手順管理処理(図13)のステップS210において、注意情報の送信に加えて、加圧部と、振動モーターとを作動させる。なお、この際、手順管理テーブル122のヒヤリハット事例フィールド、および、事故事例フィールドの値の有無に応じて、加圧部の駆動レベル(加圧強さ)と、振動モーターの駆動レベル(振動強さ、振動周期)とを変化させてもよい。
このようにすれば、注意情報生成部142aはさらに、触覚を通じた刺激を用いて、ヘッドマウントディスプレイ100aの使用者に注意を促すことができる。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
上記実施形態における、制御部と、画像表示部とに対する構成要素の割り振りは、あくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより接続部(コード)を廃した態様。
上記実施形態では、説明の便宜上、制御部が送信部を備え、画像表示部が受信部を備えるものとした。しかし、上記実施形態の送信部および受信部は、いずれも、双方向通信が可能な機能を備えており、送受信部として機能することができる。
例えば、図2に示した制御部、画像表示部の構成は任意に変更することができる。具体的には、例えば、制御部からタッチパッドを省略し、十字キーのみで操作する構成としてもよい。また、制御部に操作用スティック等の他の操作用インターフェイスを備えても良い。また、制御部にはキーボードやマウス等のデバイスを接続可能な構成として、キーボードやマウスから入力を受け付けるものとしてもよい。
例えば、図2に示した制御部は、有線の信号伝送路を介して画像表示部と接続されているものとした。しかし、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth(登録商標)等の無線の信号伝送路を介した接続により接続されていてもよい。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。
図19は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図19(A)の例の場合、図1に示したヘッドマウントディスプレイ100との違いは、画像表示部20cが、右光学像表示部26に代えて右光学像表示部26cを備える点と、左光学像表示部28に代えて左光学像表示部28cを備える点である。右光学像表示部26cは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28cは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め上に配置されている。図19(B)の例の場合、図1に示したヘッドマウントディスプレイ100との違いは、画像表示部20dが、右光学像表示部26に代えて右光学像表示部26dを備える点と、左光学像表示部28に代えて左光学像表示部28dを備える点である。右光学像表示部26dは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28dは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。
例えば、画像処理部、表示制御部、注意情報生成部、手順管理部、音声処理部等の機能部は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能部は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて構成されてもよい。
例えば、上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、画像表示部が通常の平面型ディスプレイ装置(液晶ディスプレイ装置、プラズマディスプレイ装置、有機ELディスプレイ装置等)であるとしてもよい。この場合にも、制御部と画像表示部との間の接続は、有線の信号伝送路を介した接続であってもよいし、無線の信号伝送路を介した接続であってもよい。このようにすれば、制御部を、通常の平面型ディスプレイ装置のリモコンとして利用することもできる。
また、画像表示部として、眼鏡のように装着する画像表示部に代えて、例えば帽子のように装着する画像表示部といった他の形状の画像表示部を採用してもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略しても良い。また、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
例えば、上記実施形態では、電源として二次電池を用いることしたが、電源としては二次電池に限らず、種々の電池を使用することができる。例えば、一次電池や、燃料電池、太陽電池、熱電池等を使用してもよい。
例えば、上記実施形態では、画像光生成部は、バックライトと、バックライト制御部と、LCDと、LCD制御部とを用いて構成されるものとした。しかし、上記の態様はあくまで例示である。画像光生成部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としても良い。また、例えば、画像生成部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
例えば、ヘッドマウントディスプレイは、サーモグラフィーに代えて、赤外線カメラを備えることとしてもよい。この場合、注意情報生成部は、赤外線カメラによって取得された温度分布画像を用いて、上記実施形態と同様の処理を行うことができる。
例えば、ヘッドマウントディスプレイは、注意情報において用いられるシンボル(アイコン画像、図形、抽出画像)の色調と同じ色調の光の透過を抑制する光学フィルターを備えていてもよい。また、注意情報において用いられるシンボルの色調の補色となる光学フィルターを備えていてもよい。このようにすれば、注意情報において用いられるシンボルの視認性が高くなるため、使用者に対して、注意すべき場所をよりわかりやすく伝えることができる。
・変形例2:
上記第1実施形態では、注意喚起処理の一例を示した。しかし、図5に示した処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、第1実施形態において、使用者の視界方向における注意点とは、使用者の視線の方向に存在する場所のうち、危険な場所や危険が予知される場所を意味することとした。しかし、使用者の視界方向における注意点としては、危険な場所や危険が予知される場所に限らず、危険はないものの、使用者が注意をすることが好ましい場所を意味することとしてもよい。
例えば、第1実施形態では、危険な場所や危険が予知される場所の一例として、鋭角部と、挟み込み部と、巻き込み部とを例示した。しかし、危険な場所や危険が予知される場所としては種々の場所が想定可能である。例えば、高所、深部、高速回転する物の付近、強烈な光の発生する場所、事故多発場所、薬品等の危険物の付近、障害物の付近、火気や水気の付近等を危険な場所としてもよい。
・変形例3:
上記第2実施形態では、手順管理処理の一例を示した。しかし、図13に示した処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、手順管理処理の説明において、使用者が行う作業の例として製造業における製品の製造作業を例示した。しかし、使用者が行う作業としては種々の作業を想定することができる。具体的には、自動車等の運転作業、クレーン等の工作機械の操作作業、梱包作業、調理作業、医療現場における手術(処置)作業、電子機器(PC等)における操作作業等が想定される。自動車等の運転作業の場合は「道順」が上記実施形態における「手順」に相当する。クレーン等の工作機械の操作作業の場合は「運転(操作)手順」が上記実施形態における「手順」に相当する。梱包作業の場合は「工程」が上記実施形態における「手順」に相当する。調理作業、医療現場における手術(処置)作業、電子機器(PC等)における操作作業の場合は「手順」または「タスク」が、上記実施形態における「手順」に相当する。すなわち、手順とは、作業に含まれるステップである限りにおいて、どのような言葉で表現されていてもよい。
例えば、ステップS202では、カメラにより取得された外景画像を画像解析することで現在の手順を特定することとした。しかし、手順管理部は、画像解析に代えて、図13に示した処理フローを1周させるごとに内部的な変数をインクリメントし、当該変数と、手順管理テーブルの手順番号フィールドの値とを照合させることによって、現在の手順を特定してもよい。
例えば、ステップS206では、手順管理テーブルにおいて、ヒヤリハット事例と事故事例の少なくともいずれか一方が「あり」である場合、事例ありと判定した。しかし、事故事例が「あり」である場合に限り、事例ありと判定してもよい。また、手順管理テーブルにヒヤリハット事例と事故事例の件数をそれぞれ記憶させる構成とし、テーブルに記憶されている件数が所定の件数を超過した場合に、事例ありと判定してもよい。また、ヒヤリハット事例と事故事例をポイント化し、テーブルに記憶されているポイントが所定の値を超過した場合に、事例ありとしてもよい。ポイント化の具体例を挙げる。例えば、ヒヤリハット1件1点、事故1件3点とした場合、過去にヒヤリハットが2件、事故が1件ある手順は、5点(1点×2件+3点×1件)となる。
例えば、第2実施形態において生成される注意情報は、ヒヤリハット事例または事故事例の「有無」のみを表示することとした。しかし、ヒヤリハット事例と事故事例の具体的な内容を表示させてもよい。また、通常の状態では、ヒヤリハット事例と事故事例の具体的な内容にリンクするためのアイコンを表示させてもよい。このように、具体的な事例の内容(例えば、事例の発生状況、発生原因、再発防止策等)まで表示可能な構成とすれば、使用者が行う作業を支援するためだけではなく、使用者が行う作業とその作業に付随する危険を事前に学習するためにヘッドマウントディスプレイを活用することができる。
例えば、ステップS212〜S216の所定の確認処理は、省略してもよい。
・変形例4:
第2実施形態の手順管理処理(図13)は、第1実施形態の注意喚起処理(図5)に代えて実行されるものとした。しかし、注意喚起処理(図5)と、手順管理処理(図13)とは、並列に実行されてもよい。
・変形例5:
上記実施形態では、注意情報CP1〜CP3、手順情報CP4の一例を挙げて説明した。しかし、これらの画像は上記実施形態での例示に限らず、種々の変形が可能である。
・変形例6:
上記実施形態では、手順管理テーブルの一例を示した。しかし、手順管理テーブルの詳細はあくまで一例であり、種々の変更が可能である。例えば、フィールドの追加、削除、変更を行うことができる。また、手順管理テーブルは、複数のテーブルに分割して正規化してもよい。
例えば、ヒヤリハット事例の詳細を記憶するためのテーブル(ヒヤリハット事例テーブル)を別に設け、手順管理テーブルのヒヤリハット事例フィールドには、ヒヤリハット事例テーブルの鍵となる文字列を記憶させてもよい。事故事例についても同様である。
・変形例7:
上記第2実施形態では、ヘッドマウントディスプレイに手順管理テーブルと、手順管理部とを備え、他の装置を必要とせずに手順管理処理(図13)を実行可能な例について説明した。しかし、ヘッドマウントディスプレイと、外部に設けられたサーバーとを備える作業支援システムにおいても、同様の処理を実現することができる。
例えば、ヘッドマウントディスプレイは手順管理部を備え、サーバーは手順管理テーブルを備える構成とする。この場合、ヘッドマウントディスプレイの手順管理部および注意情報生成部は、サーバー内に記憶されている手順管理テーブルにアクセスし、手順管理テーブル内のデーターを参照する。このようにすれば、1台のサーバーに記憶されている手順管理テーブル(第1および第2のテーブル)の情報を、複数台のヘッドマウントディスプレイ(頭部装着型表示装置)で共有することが可能になる。この結果、各ヘッドマウントディスプレイに手順管理テーブルを備える構成と比較して、手順管理テーブルの更新に要する労力が低減される。
・変形例8:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部(コントローラー)
12…点灯部
14…タッチパッド
16…十字キー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51…送信部
52…送信部
53…受信部
54…受信部
61…カメラ(画像取得部)
62…サーモグラフィー(画像取得部)
110…入力情報取得部
100…ヘッドマウントディスプレイ(頭部装着型表示装置)
120…記憶部
122…手順管理テーブル(注意点データー)
130…電源
140…CPU
142…注意情報生成部
144…手順管理部
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
PCLK…クロック信号
VSync…垂直同期信号
HSync…水平同期信号
Data…画像データー
Data1…右眼用画像データー
Data2…左眼用画像データー
OA…外部機器
PC…パーソナルコンピューター
SC…外景
RE…右眼
VI…虚像
EL…端部
IL…照明光
PL…画像光
AP…先端部
ER…端部
VR…視野
SB1…図形
SB2…図形
SB3…図形、画像
SP2…抽出画像
MP4…地図
MG3…メッセージ
MG4…メッセージ
CP1…注意情報
CP2…注意情報
CP3…注意情報
CP4…手順情報
CW1…確認用画像
CW2…確認用画像
CW3…確認用画面

Claims (16)

  1. 使用者が虚像と外景を同時に視認可能な頭部装着型表示装置であって、
    現在の手順について、前記使用者が実施すべき内容を表す画像である手順情報を生成する手順管理部と、
    前記現在の手順において、前記使用者に注意を促すための画像である注意情報を生成する注意情報生成部と、
    前記手順情報と、前記注意情報とを、前記虚像として前記使用者に視認させる画像表示部と、
    を備える、頭部装着型表示装置。
  2. 請求項1記載の頭部装着型表示装置であって、
    前記注意情報生成部は、前記現在の手順において、予め記憶されている注意点データーが存在する場合に、前記注意情報を生成する、頭部装着型表示装置。
  3. 請求項2に記載の頭部装着型表示装置であって、さらに、
    前記頭部装着型表示装置を装着した状態における前記使用者の視界方向の画像を取得する画像取得部を備え、
    前記手順管理部は、前記画像取得部により取得された前記画像に基づいて、作業に含まれる複数の手順から前記現在の手順を特定する、頭部装着型表示装置。
  4. 請求項3に記載の頭部装着型表示装置であって、
    前記手順管理部は、前記作業に含まれる前記手順を表す情報と、当該手順内において前記使用者が実施すべき内容を表す情報と、の関連付けを用いて、前記現在の手順に対応する前記手順情報を生成する、頭部装着型表示装置。
  5. 請求項3または請求項4に記載の頭部装着型表示装置であって、
    前記予め記憶されている注意点データーは、前記作業に含まれる前記手順を表す情報と、当該手順内における過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報と、を関連付けたデーターであり、
    前記注意情報生成部は、前記注意点データーを用いて、前記現在の手順に対応する前記注意情報を生成する、頭部装着型表示装置。
  6. 請求項1から請求項5のいずれか一項に記載の頭部装着型表示装置であって、
    前記手順管理部は、前記現在の手順に対応する前記手順情報を生成後、所定の確認処理に成功するまでは、次の手順に対応する前記手順情報の生成を制限する、頭部装着型表示装置。
  7. 請求項6に記載の頭部装着型表示装置であって、
    前記所定の確認処理は、前記使用者からの確認の意思表示の取得である、頭部装着型表示装置。
  8. 請求項3に従属する請求項6に記載の頭部装着型表示装置であって、
    前記所定の確認処理は、前記画像取得部により取得された前記画像を画像認識すると共に、前記画像認識の結果が予め定められた条件を満たすことを確認することである、頭部装着型表示装置。
  9. 請求項8に記載の頭部装着型表示装置であって、
    前記予め定められた条件は、前記使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む前記使用者の特徴に応じて変動する、頭部装着型表示装置。
  10. 請求項1から請求項9のいずれか一項に記載の頭部装着型表示装置であって、
    前記注意情報生成部は、前記現在の手順において過去に事故が発生した場合と、前記現在の手順において過去にヒヤリハットが発生した場合とにおいて、異なる前記注意情報を生成する、頭部装着型表示装置。
  11. 請求項1から請求項9のいずれか一項に記載の頭部装着型表示装置であって、
    前記注意情報生成部は、前記使用者の年齢と、性別と、体格と、作業に対する熟練度と、の少なくともいずれか一つを含む前記使用者の特徴に応じて、異なる前記注意情報を生成する、頭部装着型表示装置。
  12. 請求項3から請求項11のいずれか一項に記載の頭部装着型表示装置であって、
    前記手順管理部は、前記画像取得部により取得された前記画像のうち、前記虚像の表示領域と前記画像取得部の取得領域とが重複する重複領域に対して前記手順情報を生成し、
    前記注意情報生成部は、前記重複領域に対して前記注意情報を生成する、頭部装着型表示装置。
  13. 請求項5から請求項12のいずれか一項に記載の頭部装着型表示装置であって、さらに、
    発音体を備え、
    前記注意情報生成部は、前記現在の手順に対応する前記過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報に基づいて、前記使用者に注意を促すための音声を前記発音体から出力させる、頭部装着型表示装置。
  14. 請求項5から請求項13のいずれか一項に記載の頭部装着型表示装置であって、さらに、
    前記使用者に対して触覚を通じた刺激を加える触覚刺激部を備え、
    前記注意情報生成部は、前記現在の手順に対応する前記過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報に基づいて、前記使用者に注意を促すために前記触覚刺激部を作動させる、頭部装着型表示装置。
  15. 使用者が虚像と外景を同時に視認可能な頭部装着型表示装置の制御方法であって、
    (a)現在の手順について、前記使用者が実施すべき内容を表す画像である手順情報を生成する工程と、
    (b)前記現在の手順において、前記使用者に注意を促すための画像である注意情報を生成する工程と、
    (c)前記手順情報と、前記注意情報とを、前記虚像として前記使用者に視認させる工程と、
    を備える、頭部装着型表示装置の制御方法。
  16. 作業支援システムであって、
    請求項5から請求項14のいずれか一項に記載の頭部装着型表示装置と、
    サーバーと、
    を備え、
    前記サーバーは、
    前記作業に含まれる前記手順を表す情報と、当該手順内において前記使用者が実施すべき内容を表す情報と、の関連付けを記憶する第1のテーブルと、
    前記作業に含まれる前記手順を表す情報と、当該手順内における過去の事故と過去のヒヤリハットとの少なくともいずれか一方に関する情報と、の関連付けを記憶する第2のテーブルと、
    前記頭部装着型表示装置からの要求に応じて、前記第1のテーブルに記憶されている情報と、前記第2のテーブルに記憶されている情報と、のうちの少なくとも一方を送信する送信部と、
    を備える、作業支援システム。
JP2012272166A 2012-12-13 2012-12-13 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム Active JP6119228B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012272166A JP6119228B2 (ja) 2012-12-13 2012-12-13 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム
US14/095,827 US9448407B2 (en) 2012-12-13 2013-12-03 Head-mounted display device, control method for head-mounted display device, and work supporting system
CN201310674651.4A CN103869469B (zh) 2012-12-13 2013-12-11 头戴式显示装置、该装置的控制方法以及作业支援系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012272166A JP6119228B2 (ja) 2012-12-13 2012-12-13 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017016390A Division JP6315118B2 (ja) 2017-02-01 2017-02-01 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム

Publications (2)

Publication Number Publication Date
JP2014119786A true JP2014119786A (ja) 2014-06-30
JP6119228B2 JP6119228B2 (ja) 2017-04-26

Family

ID=51174604

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012272166A Active JP6119228B2 (ja) 2012-12-13 2012-12-13 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム

Country Status (1)

Country Link
JP (1) JP6119228B2 (ja)

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105387945A (zh) * 2015-12-11 2016-03-09 广东小天才科技有限公司 一种可穿戴设备状态设置的方法及系统
JP2016033611A (ja) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 情報提供システム、表示装置、および、表示装置の制御方法
JP2016081338A (ja) * 2014-10-17 2016-05-16 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
JP5988415B1 (ja) * 2016-05-18 2016-09-07 加津子 田中 身体内施術効果可視化システム
WO2017033539A1 (ja) * 2015-08-25 2017-03-02 新日鉄住金ソリューションズ株式会社 作業支援装置、作業支援方法及びプログラム
JP2017134575A (ja) * 2016-01-27 2017-08-03 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
WO2017150292A1 (ja) * 2016-03-04 2017-09-08 新日鉄住金ソリューションズ株式会社 表示システム、情報処理装置、情報処理方法及びプログラム
JP2017167978A (ja) * 2016-03-17 2017-09-21 Kddi株式会社 画像表示システム、情報処理装置、画像表示方法及びコンピュータプログラム
WO2017203774A1 (ja) * 2016-05-26 2017-11-30 ソニー株式会社 情報処理装置、情報処理方法及び記憶媒体
US9897810B2 (en) 2015-09-02 2018-02-20 Kbushiki Kaisha Toshiba Spectacle-type electronic device and assisting method
WO2018050414A1 (de) * 2016-09-19 2018-03-22 Robert Bosch Gmbh Handwerkzeugmaschine mit mindestens einem externen augmented reality device
JP2018081549A (ja) * 2016-11-17 2018-05-24 清水建設株式会社 モデル作成装置、端末装置、危険箇所発見システム及びプログラム
WO2018179230A1 (ja) * 2017-03-30 2018-10-04 株式会社オプティム ウェアラブル端末表示システム、ウェアラブル端末表示方法およびプログラム
US10140768B2 (en) 2014-10-17 2018-11-27 Seiko Epson Corporation Head mounted display, method of controlling head mounted display, and computer program
JP2018190432A (ja) * 2018-06-28 2018-11-29 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および警告提示方法
JP2019012537A (ja) * 2018-08-22 2019-01-24 セイコーエプソン株式会社 頭部装着型表示装置、コンピュータープログラム
US10217088B2 (en) 2016-03-08 2019-02-26 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
US10288882B2 (en) 2015-03-12 2019-05-14 Nippon Seiki Co., Ltd. Head mounted display device
JP2019197373A (ja) * 2018-05-09 2019-11-14 高砂熱学工業株式会社 通知装置、情報処理装置、情報処理システム、情報処理方法、及び情報処理プログラム
US10486062B2 (en) 2015-12-14 2019-11-26 Sony Interactive Entertainment Inc. Information processing apparatus and warning presentation method
CN110816266A (zh) * 2018-08-07 2020-02-21 本田技研工业株式会社 显示装置、显示控制方法及存储介质
US10664044B2 (en) 2015-07-07 2020-05-26 Seiko Epson Corporation Display device, control method for display device, and computer program
JP2020149139A (ja) * 2019-03-11 2020-09-17 株式会社Nttファシリティーズ 作業支援システム、作業支援方法、及びプログラム
JP7453300B2 (ja) 2018-11-29 2024-03-19 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003281297A (ja) * 2002-03-22 2003-10-03 National Institute Of Advanced Industrial & Technology 情報提示装置および情報提示方法
JP2004220201A (ja) * 2003-01-10 2004-08-05 Ricoh Co Ltd 機器安全性検証装置、機器安全性検証方法、および記憶媒体
JP2009037392A (ja) * 2007-08-01 2009-02-19 Olympus Corp 作業支援システム
JP2011227879A (ja) * 2010-03-30 2011-11-10 Ns Solutions Corp 情報提供装置、情報提供方法、及びプログラム
JP2012155655A (ja) * 2011-01-28 2012-08-16 Sony Corp 情報処理装置、報知方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003281297A (ja) * 2002-03-22 2003-10-03 National Institute Of Advanced Industrial & Technology 情報提示装置および情報提示方法
JP2004220201A (ja) * 2003-01-10 2004-08-05 Ricoh Co Ltd 機器安全性検証装置、機器安全性検証方法、および記憶媒体
JP2009037392A (ja) * 2007-08-01 2009-02-19 Olympus Corp 作業支援システム
JP2011227879A (ja) * 2010-03-30 2011-11-10 Ns Solutions Corp 情報提供装置、情報提供方法、及びプログラム
JP2012155655A (ja) * 2011-01-28 2012-08-16 Sony Corp 情報処理装置、報知方法及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
石井 裕剛: "解説 画像処理 拡張現実感を応用したプラント保守作業支援", 画像ラボ 2011 2月号, vol. 第22巻 第2号 (通巻254号), JPN6016029103, 10 February 2011 (2011-02-10), JP, pages 1 - 7, ISSN: 0003368093 *

Cited By (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016033611A (ja) * 2014-07-31 2016-03-10 セイコーエプソン株式会社 情報提供システム、表示装置、および、表示装置の制御方法
JP2016081338A (ja) * 2014-10-17 2016-05-16 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
US10140768B2 (en) 2014-10-17 2018-11-27 Seiko Epson Corporation Head mounted display, method of controlling head mounted display, and computer program
US10288882B2 (en) 2015-03-12 2019-05-14 Nippon Seiki Co., Ltd. Head mounted display device
US11073901B2 (en) 2015-07-07 2021-07-27 Seiko Epson Corporation Display device, control method for display device, and computer program
US11301034B2 (en) 2015-07-07 2022-04-12 Seiko Epson Corporation Display device, control method for display device, and computer program
US10664044B2 (en) 2015-07-07 2020-05-26 Seiko Epson Corporation Display device, control method for display device, and computer program
US10311617B2 (en) 2015-08-25 2019-06-04 Ns Solutions Corporation Operation support device, operation support method, and non-transitory computer readable recording medium
WO2017033539A1 (ja) * 2015-08-25 2017-03-02 新日鉄住金ソリューションズ株式会社 作業支援装置、作業支援方法及びプログラム
JP6105180B1 (ja) * 2015-08-25 2017-03-29 新日鉄住金ソリューションズ株式会社 作業支援装置、作業支援方法及びプログラム
US9897810B2 (en) 2015-09-02 2018-02-20 Kbushiki Kaisha Toshiba Spectacle-type electronic device and assisting method
CN105387945A (zh) * 2015-12-11 2016-03-09 广东小天才科技有限公司 一种可穿戴设备状态设置的方法及系统
US10486062B2 (en) 2015-12-14 2019-11-26 Sony Interactive Entertainment Inc. Information processing apparatus and warning presentation method
US10888772B2 (en) 2015-12-14 2021-01-12 Sony Interactive Entertainment Inc. Information processing apparatus and warning presentation method
US11697062B2 (en) 2015-12-14 2023-07-11 Sony Interactive Entertainment Inc. Information processing apparatus and warning presentation method
JP2017134575A (ja) * 2016-01-27 2017-08-03 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP6279159B2 (ja) * 2016-03-04 2018-02-14 新日鉄住金ソリューションズ株式会社 表示システム、情報処理装置、情報処理方法及びプログラム
JPWO2017150292A1 (ja) * 2016-03-04 2018-03-08 新日鉄住金ソリューションズ株式会社 表示システム、情報処理装置、情報処理方法及びプログラム
WO2017150292A1 (ja) * 2016-03-04 2017-09-08 新日鉄住金ソリューションズ株式会社 表示システム、情報処理装置、情報処理方法及びプログラム
US10217088B2 (en) 2016-03-08 2019-02-26 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
US10572861B2 (en) 2016-03-08 2020-02-25 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
JP2017167978A (ja) * 2016-03-17 2017-09-21 Kddi株式会社 画像表示システム、情報処理装置、画像表示方法及びコンピュータプログラム
JP2017205245A (ja) * 2016-05-18 2017-11-24 加津子 田中 身体内施術効果可視化システム
JP5988415B1 (ja) * 2016-05-18 2016-09-07 加津子 田中 身体内施術効果可視化システム
JPWO2017203774A1 (ja) * 2016-05-26 2019-03-22 ソニー株式会社 情報処理装置、情報処理方法及び記憶媒体
WO2017203774A1 (ja) * 2016-05-26 2017-11-30 ソニー株式会社 情報処理装置、情報処理方法及び記憶媒体
WO2018050414A1 (de) * 2016-09-19 2018-03-22 Robert Bosch Gmbh Handwerkzeugmaschine mit mindestens einem externen augmented reality device
JP2018081549A (ja) * 2016-11-17 2018-05-24 清水建設株式会社 モデル作成装置、端末装置、危険箇所発見システム及びプログラム
WO2018179230A1 (ja) * 2017-03-30 2018-10-04 株式会社オプティム ウェアラブル端末表示システム、ウェアラブル端末表示方法およびプログラム
JPWO2018179230A1 (ja) * 2017-03-30 2019-11-14 株式会社オプティム ウェアラブル端末表示システム、ウェアラブル端末表示方法およびプログラム
JP7131958B2 (ja) 2018-05-09 2022-09-06 高砂熱学工業株式会社 通知装置、情報処理装置、情報処理システム、情報処理方法、及び情報処理プログラム
JP2019197373A (ja) * 2018-05-09 2019-11-14 高砂熱学工業株式会社 通知装置、情報処理装置、情報処理システム、情報処理方法、及び情報処理プログラム
JP2018190432A (ja) * 2018-06-28 2018-11-29 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および警告提示方法
CN110816266A (zh) * 2018-08-07 2020-02-21 本田技研工业株式会社 显示装置、显示控制方法及存储介质
CN110816266B (zh) * 2018-08-07 2022-12-30 本田技研工业株式会社 显示装置及显示控制方法
JP2019012537A (ja) * 2018-08-22 2019-01-24 セイコーエプソン株式会社 頭部装着型表示装置、コンピュータープログラム
JP7453300B2 (ja) 2018-11-29 2024-03-19 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
JP2020149139A (ja) * 2019-03-11 2020-09-17 株式会社Nttファシリティーズ 作業支援システム、作業支援方法、及びプログラム

Also Published As

Publication number Publication date
JP6119228B2 (ja) 2017-04-26

Similar Documents

Publication Publication Date Title
JP6119228B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム
JP6155614B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9448407B2 (en) Head-mounted display device, control method for head-mounted display device, and work supporting system
JP6237000B2 (ja) 頭部装着型表示装置
JP6155622B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
CN105607255B (zh) 头部佩戴型显示装置、控制其的方法及计算机可读存储介质
US10140768B2 (en) Head mounted display, method of controlling head mounted display, and computer program
JP6299067B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6252004B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
US9542958B2 (en) Display device, head-mount type display device, method of controlling display device, and method of controlling head-mount type display device
US9823473B2 (en) Head-mounted display device and control method for head-mounted display device
JP6232763B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6264014B2 (ja) 頭部装着型表示装置
US10073262B2 (en) Information distribution system, head mounted display, method for controlling head mounted display, and computer program
JP6492673B2 (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
JP6315118B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム
US9799144B2 (en) Head mounted display, and control method for head mounted display
JP2017091433A (ja) 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
JP6268778B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015177404A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US20150168728A1 (en) Head mounted display device
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6287399B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6394174B2 (ja) 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム
JP6409927B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151006

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160927

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20161101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170201

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170313

R150 Certificate of patent or registration of utility model

Ref document number: 6119228

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150