JP2017055233A - 表示装置、表示システム、及び、表示装置の制御方法 - Google Patents

表示装置、表示システム、及び、表示装置の制御方法 Download PDF

Info

Publication number
JP2017055233A
JP2017055233A JP2015177322A JP2015177322A JP2017055233A JP 2017055233 A JP2017055233 A JP 2017055233A JP 2015177322 A JP2015177322 A JP 2015177322A JP 2015177322 A JP2015177322 A JP 2015177322A JP 2017055233 A JP2017055233 A JP 2017055233A
Authority
JP
Japan
Prior art keywords
data
display
measurement
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2015177322A
Other languages
English (en)
Inventor
由貴 藤巻
Yuki Fujimaki
由貴 藤巻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015177322A priority Critical patent/JP2017055233A/ja
Publication of JP2017055233A publication Critical patent/JP2017055233A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】頭部装着型の表示装置を利用して、簡易で直感的な方法によるメンテナンスを可能とする。【解決手段】HMD100は、評価対象物に関する測定データと、評価対象物の測定データと比較する比較対象データとを取得し、表示対象の測定データと比較対象データとを比較することにより、評価対象物に対する評価結果を含む表示用データを生成する。HMD100は、表示用データと、使用者が視認する実対象物との位置を対応付けることにより、画像表示部20による表示用データの表示位置を定め、定めた表示位置に表示用データに基づく画像を表示させる。【選択図】図1

Description

本発明は、表示装置、表示システム、及び、表示装置の制御方法に関する。
従来、頭部装着型の映像表示装置により、現実空間を撮像した撮像画像に基づく画像を表示する方法が知られている(例えば、特許文献1参照)。
特開2015−4948号公報
建物、インフラ(社会基盤設備)、機械設備、各種器具などのメンテナンスは、専門的なエンジニアが行うことが一般的である。多くの場合、エンジニアがメンテナンスの対象に関する測定を行い、測定データを解析する作業を行うが、測定に要する工数や作業の負荷が課題となっている。
本発明は上記事情に鑑みてなされたものであり、頭部装着型の表示装置を利用して、簡易で直感的な方法によるメンテナンスを可能とすることを目的とする。
上記目的を達成するために、本発明の表示装置は、使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部と、評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得するデータ取得部と、前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成する表示用データ生成部と、前記表示用データ生成部により生成する前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定める表示位置制御部と、前記表示位置制御部が定める表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させる表示制御部と、を備えることを特徴とする。
本発明によれば、使用者の頭部に装着される表示装置によって、評価対象物の評価結果に関する表示を行う。これにより、頭部装着型の表示装置を利用して、評価対象物に関する評価結果を容易に確認することができ、簡易で直感的な方法によるメンテナンスが可能になる。
また、本発明は、上記表示装置において、前記表示用データ生成部は、前記評価対象物の測定データと前記比較対象データとを対照することにより、前記評価対象物の状態を評価し、評価結果を表示する前記表示用データを生成すること、を特徴とする。
本発明によれば、表示装置によって評価対象物の状態を評価して評価結果を表示できる。
また、本発明は、上記表示装置において、撮像部を備え、前記データ取得部は、前記撮像部の撮像画像データを前記評価対象物の測定データとして取得し、前記撮像部の過去の撮像画像データまたは撮像画像と比較可能に構成された前記比較対象データを取得すること、を特徴とする。
本発明によれば、評価対象物を撮像することにより、評価対象物の状態を評価して評価結果を表示できる。
また、本発明は、上記表示装置において、前記撮像部は前記使用者の視野方向を撮像すること、を特徴とする。
本発明によれば、使用者の視野方向にある評価対象物を撮像し、評価対象物の状態を評価して評価結果を表示できる。
また、本発明は、上記表示装置において、前記データ取得部が取得する前記比較対象データは、前記評価対象物の設計データに基づき生成されたデータであること、を特徴とする。
本発明によれば、評価対象物の設計上の状態との差異に関する判定を行い、評価結果を表示できる。
また、本発明は、上記表示装置において、前記データ取得部は、測定装置、または測定装置の測定結果を含む測定データを記憶する記憶装置と通信を行うことにより、前記評価対象物の測定データを取得すること、を特徴とする。
本発明によれば、外部の測定装置の測定結果に基づいて、評価対象物に関する判定を行って、評価結果を表示できる。
また、本発明は、上記表示装置において、前記データ取得部は、前記評価対象物の測定データとして前記測定装置が測定した最新または現在の測定結果を含むデータを取得し、前記比較対象データとして、過去に前記測定装置により測定された測定結果を含むデータまたは比較用として予め用意されたデータを取得すること、を特徴とする。
本発明によれば、外部の測定装置から取得するデータに基づいて、評価対象物に関する判定を行い、評価結果を表示できる。
また、本発明は、上記表示装置において、前記表示位置制御部は、前記表示用データの表示位置を、前記表示用データに含まれる評価結果が、前記表示部を透過して視認される実空間の前記評価対象物に重なって視認される位置に定めること、を特徴とする。
本発明によれば、使用者が視認する実空間の評価対象物に対応する位置に、評価結果を表示するので、評価結果を容易に把握できる。
また、本発明は、上記表示装置において、前記表示用データ生成部は、前記評価対象物の測定データに係る画像及び前記比較対象データに係る画像の少なくともいずれかを含む画像と、前記評価対象物に対する評価結果に係る画像とを含む前記表示用データを生成し、前記表示位置制御部は、前記評価対象物の測定データに係る画像の表示位置、または、前記比較対象データに係る画像の表示位置を、前記使用者が前記実対象物を視認する位置に対応する位置とすること、を特徴とする。
本発明によれば、使用者が視認する実対象物に対応する位置に、測定データに係る画像や比較対象データに係る画像を表示するので、実対象物に対応する多くの情報を使用者に視認させることができる。
また、本発明は、上記表示装置において、前記データ取得部は、前記評価対象物が前記実対象物である場合に、前記測定データとして前記実対象物の画像であって前記実対象物の外部から視認できない画像を取得し、前記表示用データ生成部は、前記測定データとしての前記画像を含む前記表示用データを生成し、前記表示位置制御部は、前記測定データとしての画像の表示位置を、前記実対象物において前記測定データとしての画像に該当する範囲を前記使用者が視認する位置に対応する位置とすること、を特徴とする。
本発明によれば、使用者が視認する実対象物に対応する位置に、対象物の外部から視認できない画像を表示するので、実対象物に関する不可視の情報を使用者に視認させることができる。
また、本発明は、上記表示装置において、前記表示用データ生成部は、前記評価結果を所定の表示色で強調表示する態様、前記評価結果に対応付けて警戒情報を表示する態様、前記評価結果に対応付けて比較結果のデータを表示する態様、及び、前記評価結果に対応付けて比較結果の変化に係るデータを表示する態様のいずれかの態様によって強調表示する前記表示用データを生成すること、を特徴とする。
本発明によれば、評価結果を、より見やすく表示できる。
また、上記目的を達成するために、本発明の表示システムは、評価対象物に対し測定を実行して測定データを生成する測定装置と、前記測定装置の測定結果に基づく表示を行う表示装置と、を備え、前記表示装置は、使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部と、前記評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得するデータ取得部と、前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成する表示用データ生成部と、前記表示用データ生成部により生成する前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定める表示位置制御部と、前記表示位置制御部が定める表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させる表示制御部と、を備えること、を特徴とする。
本発明によれば、評価対象物に関する測定を行い、使用者の頭部に装着される表示装置によって評価対象物の評価結果に関する表示を行う。これにより、頭部装着型の表示装置を利用して、評価対象物に関する評価結果を容易に確認することができ、簡易で直感的な方法によるメンテナンスが可能になる。
また、上記目的を達成するために、本発明は、使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部を備える表示装置の制御方法であって、評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得し、前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成し、前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定め、定めた表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させること、を特徴とする。
本発明によれば、使用者の頭部に装着される表示装置によって、評価対象物の評価結果に関する表示を行う。これにより、頭部装着型の表示装置を利用して、評価対象物に関する評価結果を容易に確認することができ、簡易で直感的な方法によるメンテナンスが可能になる。
第1実施形態のHMDの外観構成を示す説明図。 画像表示部の光学系の構成を示す図。 画像表示部の要部構成を示す図。 HMDを構成する各部の機能ブロック図。 HMDの動作を示すフローチャート。 第1実施形態におけるHMDの表示例を示す図。 第2実施形態の測定システムの構成を示す図。 測定装置の動作を示すフローチャート。 測定システムの動作を示すフローチャートであり、(A)はHMDの動作を示し、(B)は測定装置の動作を示す。 第2実施形態におけるHMDの表示例を示す図。 測定システムを医療分野に適用した場合のHMDの表示例を示す図。
[第1実施形態]
図1は、本発明を適用した実施形態に係るHMD(ヘッドマウントディスプレイ,Head Mounted Display)100の外観構成を示す説明図である。
HMD100は、使用者の頭部に装着された状態で使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御装置10と、を備える表示装置である。制御装置10は、使用者がHMD100を操作するコントローラーとしても機能する。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61(撮像部)と、マイク63とを備える。右光学像表示部26及び左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右及び左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに連結される。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21及び左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、右表示駆動部22及び左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26及び左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」と呼ぶ)、図2〜図4を参照して後述する投写光学系251,252等を含む。
右光学像表示部26及び左光学像表示部28は、導光板261,262(図2)と、調光板20Aとを備える。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24が出力する画像光を、使用者の眼に導く。調光板20Aは、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置される。調光板20Aは、光透過性がほぼ無いもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰又は反射するもの等、種々のものを用いることができる。調光板20Aの光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26及び左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、HMD100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは、右導光板261及び左導光板262を保護し、右導光板261及び左導光板262の損傷や汚れの付着等を抑制する。
調光板20Aは、右光学像表示部26及び左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、画像表示部20の前面の中央位置に配置される。カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。カメラ61をステレオカメラで構成してもよい。カメラ61は、HMD100の表側方向、換言すれば、HMD100を装着した状態における使用者の視界方向の少なくとも一部の外景(実空間)を撮像する。別の表現では、カメラ61は、使用者の視界と重なる範囲または方向を撮像し、使用者が注視する方向を撮像するということもできる。カメラ61の画角の広さは適宜設定可能であるが、本実施形態では、後述するように、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む。さらに、調光板20Aを通した使用者の視界の全体を撮像できるようにカメラ61の撮像範囲が設定されているとより好ましい。
カメラ61は、制御部140が備える撮像制御部161(図4)の制御に従って撮像を実行し、撮像画像データを撮像制御部161に出力する。
ここで、HMD100は、予め設定された測定方向に位置する測定対象物までの距離を検出する距離センサー(図示略)を備えてもよい。距離センサーは、例えば、右光学像表示部26と左光学像表示部28との境目部分に配置される。この場合、使用者が画像表示部20を装着した状態で、距離センサー64の位置は、水平方向においては使用者の両眼のほぼ中間であり、鉛直方向においては使用者の両眼より上である。距離センサー64の測定方向は、例えば、HMD100の表側方向で、カメラ61の撮像方向と重複する方向とすることができる。
距離センサーは、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する構成とすることができる。距離センサーは、制御部140の制御に従い、三角測距処理や時間差に基づく測距処理を実行すればよい。また、距離センサーは、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える構成としてもよい。この場合、距離センサーは、制御部140の制御に従い、超音波の反射までの時間差に基づき測距処理を実行すればよい。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のため使用者の左眼LE及び右眼REを図示する。
左表示駆動部24は、LED等の光源と拡散板とを有する左バックライト222、左バックライト222の拡散板から発せられる光の光路上に配置される透過型の左LCD242、及び、左LCD242を透過した画像光Lを導くレンズ群等を備えた左投写光学系252を備える。左LCD242は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
左投写光学系252は、左LCD242から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、左導光板262に入射される。左導光板262は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、左導光板262の内部において複数回の反射を経て左眼LE側に導かれる。左導光板262には、左眼LEの眼前に位置するハーフミラー262A(反射面)が形成される。
ハーフミラー262Aで反射した画像光Lは左眼LEに向けて左光学像表示部28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
右表示駆動部22は、左表示駆動部24と左右対称に構成される。右表示駆動部22は、LED等の光源と拡散板とを有する右バックライト221、右バックライト221の拡散板から発せられる光の光路上に配置される透過型の右LCD241、及び、右LCD241を透過した画像光Lを導くレンズ群等を備えた右投写光学系251を備える。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板261に入射される。右導光板261は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、右導光板261の内部において複数回の反射を経て右眼RE側に導かれる。右導光板261には、右眼REの眼前に位置するハーフミラー261A(反射面)が形成される。
ハーフミラー261Aで反射した画像光Lは右眼REに向けて右光学像表示部26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
使用者の右眼REには、ハーフミラー261Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。左眼LEには、ハーフミラー262Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させ、使用者にとっては、調光板20Aを透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。このように、HMD100は、シースルー型の表示装置として機能する。
なお、左投写光学系252と左導光板262とを総称して「左導光部」とも呼び、右投写光学系251と右導光板261とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
画像表示部20は、制御装置10に接続ケーブル40を介して接続する。接続ケーブル40はコネクター46を備え、コネクター46には、右イヤホン32、左イヤホン34及びマイク63を有するイヤホンマイクを接続できる。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を音声処理部187(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
接続ケーブル40は画像表示部20に対し固定的に接続され、制御装置10に対してはコネクター(図示略)に接離可能に接続される。制御装置10と画像表示部20とは、接続ケーブル40を介して各種信号、及び/又は各種データを送受信する。
制御装置10は、HMD100を制御する。制御装置10は、操作部111(図4)として、キー操作部11、LEDインジケーター12、トラックパッド14、上下キー15、切替スイッチ16、及び電源スイッチ18を備える。
キー操作部11は、制御装置10が実行するオペレーティングシステム150(図4)の操作等を行うためのメニューキー、ホームキー、戻るキー等を備える。
LEDインジケーター12は、HMD100の動作状態に対応して点灯し、或いは点滅する。上下キー15は、右イヤホン32及び左イヤホン34から出力する音量の増減の指示入力や、画像表示部20の表示の明るさの増減の指示入力に利用される。切替スイッチ16は、上下キー15の操作に対応する入力を切り替えるスイッチである。電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチであり、例えばスライドスイッチで構成される。
トラックパッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式等を採用できる。
図3は、画像表示部20の要部構成を示す図であり、(A)は画像表示部20を使用者の頭部側から見た要部斜視図、(B)はカメラ61の画角の説明図である。なお、図3(A)では接続ケーブル40の図示を省略する。
図3(A)は、画像表示部20の使用者の頭部に接する側、言い換えれば使用者の右眼RE及び左眼LEに見える側である。別の言い方をすれば、右光学像表示部26及び左光学像表示部28の裏側が見えている。
図3(A)では、使用者の右眼REに画像光を照射するハーフミラー261A、及び、左眼LEに画像光を照射するハーフミラー262Aが、略四角形の領域として見える。また、ハーフミラー261A、262Aを含む右光学像表示部26及び左光学像表示部28の全体が、上述したように外光を透過する。このため、使用者には、右光学像表示部26及び左光学像表示部28の全体を透過して外景が視認され、ハーフミラー261A、262Aの位置に矩形の表示画像が視認される。
カメラ61は、上記のように画像表示部20の前面の中央位置に配置され、使用者の両眼が向く方向、すなわち使用者にとって前方を撮像する。図3(B)は、カメラ61の位置を、使用者の右眼RE及び左眼LEとともに平面視で模式的に示す図である。カメラ61の画角(撮像範囲)をCで示す。なお、図3(B)には水平方向の画角Cを示すが、カメラ61の実際の画角は一般的なデジタルカメラと同様に上下方向にも拡がる。
画角Cは、画像表示部20の中央位置の真正面方向を含む。例えば、図3(B)に示すように、画像表示部20の正面方向に、実空間の対象物OB(実対象物)がある場合、対象物OBは画角Cに含まる。このため、カメラ61の撮像画像には対象物OBが写る。ここで、使用者が対象物OBを注視すると、使用者の視線は、図中符号RD、LDに示すように対象物OBに向けられる。一般に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされ、そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。さらに、人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45度〜70度程度とされている。
従って、注視点が対象物OBである場合、視線RD、LDを中心として水平方向に30度、垂直方向に20度程度が有効視野であり、水平方向に60〜90度、垂直方向に45度〜70度程度が安定注視野であり、水平方向に約200度、垂直方向に約125度が視野角となる。
また、HMD100を装着する使用者が画像表示部20を透過して右光学像表示部26及び左光学像表示部28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶ。図1及び図2に示す本実施形態の構成で、実視野は、右光学像表示部26及び左光学像表示部28を透過して使用者が視認する実際の視野に相当する。実視野は、図3(B)を参照して説明した視野角及び安定注視野より狭いが、有効視野より広い。
カメラ61は、使用者の視野よりも広い範囲を撮像可能な画角を有することが好ましく、具体的には、画角Cが、少なくとも使用者の有効視野よりも広いことが好ましい。また、画角Cが、使用者の実視野よりも広いことが、より好ましい。さらに好ましくは、画角Cが、使用者の安定注視野よりも広く、最も好ましくは、画角Cが使用者の視野角よりも広い。
カメラ61が、撮像レンズとして、いわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよいし、単焦点レンズであってもズームレンズであってもよく、複数のレンズからなるレンズ群をカメラ61が備える構成であってもよい。
図4は、HMD100を構成する各部の機能ブロック図である。
HMD100は、コンテンツの供給元となる種々の外部機器OAを接続するインターフェイス114を備える。インターフェイス114は、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができ、無線通信インターフェイスで構成してもよい。外部機器OAは、HMD100に画像を供給する画像供給装置であり、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。
制御装置10は、制御部140、入力情報取得部110、及び、記憶部120を有する。
入力情報取得部110は、操作部111に接続される。操作部111は、上述したようにキー操作部11、トラックパッド14、上下キー15及び切替スイッチ16を含む。入力情報取得部110は、操作部111から入力される信号に基づき、使用者の操作を受け付ける。入力情報取得部110は、操作部111における操作内容を示すデータを制御部140に出力する。また、入力情報取得部110は、制御部140の制御に従って、LEDインジケーター12(図1)の点灯、点滅、消灯を制御してもよい。
制御装置10は、電源部130を備え、制御装置10及び画像表示部20の各部に電源部130から電源を供給する。電源部130からの電源供給状態は、電源スイッチ18(図1)の操作、及び、制御部140が実行するプログラムの実行状況に応じて、制御部140が制御する。
記憶部120は、不揮発性の記憶装置であって、種々のコンピュータープログラム、及び、これらのプログラムに係るデータを記憶する。また、記憶部120は、画像表示部20に表示する静止画像や動画像のデータを記憶しても良い。
記憶部120は、設定データ121を記憶する。設定データ121は、制御部140が使用する各種の設定値を含む。設定データ121が含む設定値は、予め操作部111の操作で入力された値であってもよいし、通信部117またはインターフェイス114を介して外部機器OAまたは他の装置(図示略)から設定値を受信して記憶してもよい。
また、記憶部120は、設計標準データ122、測定履歴データ123、特徴量データ124、及び判定結果データ125を記憶する。
本第1実施形態で、HMD100は、測定対象物(評価対象物)である対象物OBに対する状態測定を行う測定装置、及び、測定結果に基づく判定結果(評価結果)を表示する表示装置として機能する。状態測定は、対象物OBの部分的形状、全体形状、及び表面状態など外面から光学的に検出可能な外面的状態を測定する。より具体的には、HMD100は、カメラ61の撮像画像データを利用して対象物OBの外面的状態の測定を行う。
HMD100は、対象物OBの外面的状態の測定結果を、対象物OBの標準的な状態と比較して、差異の有無及び差異の大きさに基づき、対象物OBが標準的な状態であるか否かを判定する。
上記の測定、判定、及び判定結果の表示を含む一連の動作を、測定処理として後述する。
HMD100は、測定処理において、対象物OBの標準的な状態を示すデータとして、設計標準データ122を使用する。対象物OBは建物、道路、橋梁などの建造物であってもよいし、移動可能な物品であってもよい。設計標準データ122は対象物OBの建築設計または機械設計など設計された状態の対象物OBの形状等を示すデータである。対象物OBが設計通りに建造または製造された場合、対象物OBの外面的状態は設計標準データ122が示す状態に一致し、或いは、設計標準データ122が示す状態との差が許容範囲内となる。設計標準データ122との差の許容範囲は、建造または製造時に生じる公差に基づき設定されてもよい。また、対象物OBの経年変化を考慮して設定されてもよい。
HMD100は、カメラ61の撮像画像から対象物OBの画像を抽出し、対象物OBの形状など外面的状態を求める。HMD100が対象物OBの画像を抽出する処理においては、例えば、対象物OBを撮像した撮像画像の特徴量が使用される。対象物OBの特徴量を示すデータが、特徴量データ124である。特徴量データ124は、例えば、対象物が物体である場合に、この物体を撮像した場合の撮像画像の色、形状、その他の特徴を示す特徴量が含まれる。この場合、HMD100は、カメラ61の撮像画像データから物体の画像を抽出する処理を行い、抽出した物体の画像の特徴量を算出し、算出した特徴量と、特徴量データ124に含まれる特徴量とを比較照合する。特徴量が近い値であり、或いは同一である場合は、撮像画像データから抽出した画像の物体を対象物OBとして認識する。また、対象物OBについて複数の特徴量が特徴量データ124に含まれる場合、HMD100は複数の特徴量に基づき撮像画像データから対象物OBを検出し、認識できる。HMD100は、撮像画像データにおいて対象物OBを認識できない場合、撮像制御部161が新たな撮像画像データを取得するまで待機し、新たな撮像画像データについて対象物OBを認識する処理を行う。特徴量データ124は1つの対象物OBに対し1つとは限定されない。対象物OBを撮像する角度、対象物OBの全体における位置等に応じて、1つの対象物OBに対応する複数の特徴量データ124が記憶部120に記憶されてもよい。
HMD100は、測定結果である撮像画像データから求めた対象物OBの外面的状態と、設計標準データ122が示す外面的状態とを比較し、対象物OBの状態を判定する。この判定は、対象物OBの部分毎に行ってもよく、全体に対して行ってもよい。本第1実施形態では測定結果である撮像画像データから求めた対象物OBの外面的状態と、設計標準データ122が示す外面的状態との差が許容範囲を超えた部分について、当該部分を、注目箇所として判定する対象物OB全体に対する判定は行わないが、例えば、注目箇所の数が設定された閾値を超える対象物OBについて、対象物OBを要注意対象物として判定してもよい。判定結果は、判定結果データ125として記憶部120に記憶される。判定結果データ125は、注目箇所の有無、注目箇所の対象物OBにおける位置等の情報を含み、後述するように判定結果を表示する表示位置に関する情報を含んでもよい。また、判定結果データ125は、測定結果である対象物OBの外面的状態に関する情報を含んでもよい。
HMD100は、判定結果を画像表示部20で表示するための表示用のデータを生成する。この表示用のデータは、例えば、対象物OBにおいて注目箇所と判定された部分を、注目箇所の位置、サイズに合わせて使用者に示すデータである。
本実施形態の表示用のデータは、画像表示部20を透過する外光により使用者が視認する実空間に重ねて、判定結果を表示する態様である。この場合、判定結果を示す文字(テキスト)や画像は、実空間の対象物OBに対応する位置に表示され、いわゆるAR(Augmented Reality:拡張現実)効果を奏する画像(以下、AR画像という)として機能する。
判定結果の表示位置は、使用者が画像表示部20を透過して対象物OBを視認する位置に合わせて決定される。使用者が対象物OBを視認する位置は、カメラ61の撮像方向と、画像表示部20を透過する場合の使用者の視界(視野)、或いは視線方向との相対的な位置関係を示すデータと、カメラ61の撮像画像における対象物OBの画像の位置と、に基づき決定できる。この処理において、カメラ61の撮像画像データから対象物OBの画像を抽出する際に特徴量データ124を利用してもよい。
HMD100は、使用者が視認する実空間の対象物OBに重なるように、判定結果を表示する。判定結果の表示態様は、使用者が判定結果を明瞭に知覚できればよく、制限されるものではない。例えば、注目箇所の大きさ、位置、範囲が分かるように、注目箇所を強調する表示態様とすることができる。具体的には、注目箇所を枠で囲む、注目箇所にハイライトの文字や枠を付加する等、テキストや画像を付加的に表示してもよい。また、注目箇所に重ねて明色を表示し、注目箇所が明色で塗りつぶされるように表示してもよい。また、使用者の視界において注目箇所以外の部分の視認性を低下させるように、例えば注目箇所以外の部分に暗色を重ねて表示してもよい。
測定結果である対象物OBの外面的状態に関するデータ、または、この対象物OBの外面的状態に関する情報を含む判定結果データ125は、判定結果を表示した後、測定履歴データ123として記憶部120に記憶される。測定履歴データ123の数は任意である。このため、記憶部120には、過去の測定結果を示す測定履歴データ123を1、または複数記憶できる。HMD100は、対象物OBの外面的状態を設計標準データ122と比較するだけでなく、測定履歴データ123と比較することによって判定を行ってもよい。この場合、HMD100は、対象物OBの外面的状態を、過去の外面的状態と比較して判定を行える。例えば、対象物OBが表面から視認可能な損傷や変形がある場合に、この損傷や変形が拡大しているか否かを判定できる。
測定履歴データ123は、最初に記憶部120に記憶される日時、または測定履歴データ123の形態で生成された日時を示すタイムスタンプ情報に対応付けられ、記憶部120に記憶される。具体的には、測定履歴データ123にタイムスタンプ情報を含めてもよい。また、タイムスタンプ情報と測定履歴データ123とが対応付けされて、ともに記憶部120に記憶されてもよい。
測定履歴データ123は、対象物OBの外面的状態に関するデータを含んでもよく、具体的にはカメラ61の撮像画像データ、及び/または、撮像画像から抽出または算出されたデータを含んでもよい。また、測定履歴データ123は、判定結果データ125を含んでもよく、この場合、判定に用いたデータ自体を含んでもよい。例えば、対象物OBの外面的状態に関するデータとしての撮像画像データと、設計標準データ122や過去の測定または判定に係る測定履歴データ123等とを比較して判定した場合、これらの比較したデータを測定履歴データ123に含めてもよい。また、測定履歴データ123は、カメラ61の撮像画像データ、過去の測定履歴データ123、或いは設計標準データ122そのものを含まず、これらのデータを特定する情報(例えば、記憶部120に記憶されたデータのファイル名等)を含んでもよい。
記憶部120が記憶する測定履歴データ123は、タイムスタンプ情報、或いは、測定履歴データ123が含むデータに関する情報に基づき、操作部111が受け付ける操作によって選択し、指定することが可能である。このため、HMD100を装着する使用者が、操作部111の操作によって、測定履歴データ123を記憶部120から読み出すよう指示できる。制御部140は、操作部111で受け付けた操作に従って指定された測定履歴データ123を読み出すことができる。
例えば、制御部140が、判定を行う場合に、測定結果である対象物OBの外面的状態に関するデータと比較するデータを、操作部111で受け付ける操作により指定してもよい。この場合、設計標準データ122に限らず、記憶部120が記憶する測定履歴データ123を、測定結果と比較して判定を行ってもよい。
データ取得部162は、判定を行うための設計標準データ122、及びカメラ61の撮像画像データを取得する。また、測定履歴データ123を利用して判定を行う場合、データ取得部162は測定履歴データ123を取得する。
表示用データ生成部163は、データ取得部162が取得するカメラ61の撮像画像に基づいて対象物OBの測定を行い、測定結果を設計標準データ122と比較して判定を行う。また、表示用データ生成部163は、対象物OBの測定結果と測定履歴データ123とを比較して判定を行ってもよい。また表示用データ生成部163は、判定結果を表示する表示用のデータを生成する。
表示位置制御部164は、表示用データ生成部163が生成する表示用のデータの表示位置を決定する。
制御部140には、GPS115、及び通信部117が接続される。
GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10の現在位置を算出する。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御部140が計時する時刻を修正させる機能を備えてもよい。
通信部117は、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth(登録商標)等の規格に準じた無線データ通信を実行する。
外部機器OAが、通信部117に無線接続された場合、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示させる。一方、外部機器OAが、インターフェイス114に有線接続された場合、制御部140は、コンテンツデータをインターフェイス114より取得して、画像表示部20に画像を表示させる。通信部117及びインターフェイス114は、外部機器OAからコンテンツデータを取得するデータ取得部DAとして機能する。
制御部140は、プログラムを実行するCPU(図示略)、CPUが実行するプログラムやデータを一時的に格納するRAM(図示略)、及び、CPUが実行する基本制御プログラムやデータを不揮発的に記憶するROM(図示略)を備える。制御部140は、記憶部120が記憶するコンピュータープログラムを読み出して実行し、オペレーティングシステム(OS)150、画像処理部160、撮像制御部161、データ取得部162、表示用データ生成部163、表示位置制御部164、通信制御部170、音声処理部187、及び、表示制御部190として機能する。
画像処理部160は、画像表示部20により表示するコンテンツの画像データに基づいて、右表示駆動部22及び左表示駆動部24に送信する信号を生成する。画像処理部160が生成する信号は、垂直同期信号、水平同期信号、クロック信号、アナログ画像信号等であってもよい。
また、画像処理部160は、必要に応じて、画像データの解像度を右表示駆動部22及び左表示駆動部24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部160は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。画像処理部160は、これらの画像処理を実行した場合、処理後の画像データに基づき画像を表示するための信号を生成して、接続ケーブル40を介して画像表示部20に送信する。
表示制御部190は、右表示駆動部22及び左表示駆動部24を制御する制御信号を生成し、この制御信号により、右表示駆動部22及び左表示駆動部24のそれぞれによる画像光の生成及び射出を制御する。具体的には、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFFを制御する。また、表示制御部190は、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを制御する。
撮像制御部161は、カメラ61を制御して撮像を実行させ、撮像画像データを生成し、記憶部120に一時的に記憶する。また、カメラ61が撮像画像データを生成する回路を含むカメラユニットとして構成される場合、撮像制御部161は撮像画像データをカメラ61から取得して、記憶部120に一時的に記憶する。
音声処理部187は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、右イヤホン32及び左イヤホン34に出力する。また、音声処理部187は、マイク63により集音される音声を取得してディジタル音声データに変換する。音声処理部187は、ディジタル音声データに対して予め設定された処理を行ってもよい。
画像表示部20は、カメラ61を備える。また、画像表示部20は、インターフェイス25、右表示駆動部22、左表示駆動部24、右光学像表示部26としての右導光板261、左光学像表示部28としての左導光板262、及び、9軸センサー66を備える。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサー(慣性センサー)である。9軸センサー66は、複数のセンサーを統合したセンサーユニットであってもよい。制御部140は、画像表示部20が使用者の頭部に装着された状態で、9軸センサー66の検出値に基づいて使用者の頭部の動きを検出できる。
インターフェイス25は、接続ケーブル40により制御装置10に接続され、制御装置10が送信する各種データ及び信号を、右表示駆動部22及び左表示駆動部24に出力する。また、インターフェイス25は、表示制御部190から送信される制御信号を、対応する右バックライト制御部201又は左バックライト制御部202に出力する。
また、インターフェイス25は、カメラ61、及び、9軸センサー66を制御装置10に接続する。カメラ61の撮像データ、9軸センサー66による加速度(3軸)、角速度(3軸)、及び、地磁気(3軸)の検出結果は、インターフェイス25を介して制御部140に送られる。
右表示駆動部22は、上述した右バックライト221、右LCD241、及び右投写光学系251を備える。また、右表示駆動部22は、右バックライト(BL)221を制御する右バックライト(BL)制御部201、及び、右LCD241を駆動する右LCD制御部211を備える。
右バックライト制御部201は、表示制御部190が送信する制御信号に従って、右バックライト221を駆動する。右LCD制御部211は、画像処理部160が送信する信号及び表示制御部190が送信する信号に基づいて、右LCD241を駆動する。
左表示駆動部24は、右表示駆動部22と同様の構成を有する。左表示駆動部24は、上述した左バックライト222、左LCD242、及び左投写光学系252を備える。また、左表示駆動部24は、左バックライト222を駆動する左バックライト制御部202、及び、左LCD242を駆動する左LCD制御部212を備える。
左バックライト制御部202は、表示制御部190が送信する制御信号に従って、左バックライト222を駆動する。左LCD制御部212は、画像処理部160が送信する信号及び表示制御部190が送信する信号に基づいて、左LCD242を駆動する。
なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して、右の「画像光生成部」とも呼ぶ。同様に、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242とを総称して、左の「画像光生成部」とも呼ぶ。
図5はHMD100の動作を示すフローチャートであり、特に、測定処理を示す。
制御部140は、対象物OBの状態を判定するための比較対象のデータを取得する(ステップS11)。制御部140は、対象物OBの測定結果を設計された状態と比較する場合、比較対象データとして設計標準データ122を取得する。また、制御部140は、過去の対象物OBの測定結果と、現在または最新の測定結果とを比較して判定する場合、測定履歴データ123を比較対象データとして取得する。
制御部140は、カメラ61を制御して撮像を実行させ(ステップS12)、撮像画像データを取得する(ステップS13)。制御部140は撮像画像データから対象物OBの画像を抽出し(ステップS14)、抽出した対象物OBの画像により外面的状態を求め、求めた外面的状態とステップS11で取得したデータとを比較して判定を行う(ステップS15)。制御部140は判定結果を含む表示用のデータを生成し(ステップS16)、判定結果の表示位置を決定し(ステップS17)、決定した表示位置に判定結果を表示する(ステップS18)。
制御部140は、表示を終了するか否かを判定する(ステップS19)。使用者の操作により表示の終了が指示された場合、制御部140は表示を終了すると判定し(ステップS19;YES)、本処理を終了する。表示を終了しないと判定した場合(ステップS19;NO)、制御部140はステップS12に戻る。
図6は、第1実施形態におけるHMDの表示例を示す図であり、(A)は使用者の視野に対象物OBが視認される状態を示し、(B)は対象物OBに注目箇所が存在する場合の例を示し、(C)は判定結果が表示される例を示す。
図6(A)のように使用者の視野VRに対象物OBが視認される場合、制御部140は、カメラ61の撮像画像データから対象物OBの画像を抽出して判定する。この例では、対象物OBが大きいため視野VRには対象物OBの一部分しか収まっていない。この場合、カメラ61の撮像画像データにおいても対象物OBの全体が収まっていない可能性があるが、特徴量データ124が対象物OBの一部分についての特徴量を含んでいれば処理が可能である。図6(B)に示すように、判定により、対象物OBの一部に、設計データとは形状やサイズが異なる注目箇所PRが検出された場合、図6(C)に示すように、注目箇所PRが強調して視認されるように、強調表示V1が表示される。図6(C)に例示する強調表示V1は注目箇所PRを囲む枠形状であるが、強調表示の形状や表示色は任意である。
図6(C)は比較結果の表示の一態様を示す例であり、その他の態様による表示を行うことも勿論可能である。
図6(C)の例では判定結果を示す枠形状の強調表示V1を表示するが、判定結果を含む表示として、判定に用いた対象物OBの外面的状態に関する測定データに係る画像と、この測定データと比較されたデータに係る画像とを並べて表示してもよい。
測定データに係る画像は、例えば、カメラ61の撮像画像またはカメラ61の撮像画像から抽出等により生成された画像である。また、比較されたデータに係る画像は、例えば、過去のカメラ61の撮像データ、設計標準データ122に対応付けて記憶部120に記憶されたCAD図面等である。また、測定データに係る画像及び比較されたデータに係る画像が、測定結果または標準データの数値等に基づき生成されたグラフ等の図表であってもよい。
この場合、2つの、または複数の画像を並べて表示することにより、使用者は、経時変化を視覚的に比較できる。この場合、表示される複数の画像のうち古い方の画像、或いは、対象物OBの過去の状態に関する画像の視認性を低くしてもよい。例えば、当該画像の透過率を上げ、外光に対して薄く視認されるようにしてもよい。この場合、結果的に、より新しい方の画像を認識しやすくなり、強調表示できる。
また、複数の画像を並べて表示する場合に、比較、判定により発見された注目箇所に、マーカー表示をしてもよい。このマーカー表示は、複数の画像の全てに表示してもよく、より新しい画像のマーカーを、視認性が高くなるように太くしてもよい。また、測定データに係る画像及び比較されたデータに係る画像が図表である場合に、図表中にマーカー等を付加して注目箇所を強調してもよい。
また、強調表示をHMD100により立体画像として表示してもよい。この場合、対象物OBに重畳する強調表示としての装飾を立体表示してもよい。また、対象物OBをカメラ61で撮像した撮像画像を利用して、対象物OBの立体画像を生成し、この立体画像を視野VRで視認される実空間の対象物OBに重ねて表示してもよい。この場合、強調表示される部分を立体表示することで、判定結果をより一層わかりやすく強調して表示できる。
さらに、判定の結果、明らかな異常とみなすことができる注目箇所が発見された場合、表示する画像において、注目箇所に装飾表示または強調表示を行い、この装飾表示または強調表示の態様を、危険度または緊急度により段階的に分けてもよい。
また、判定の結果、明らかな異常とみなすことができる注目箇所が発見された場合、注目箇所に対する表示態様の装飾や強調を行うとともに、音声処理部187が報知音声を右イヤホン32及び左イヤホン34から出力してもよい。
このように、複数の画像や図表を表示して、継時変化や判定の様子等を視覚的に示すことにより、対象物OBの状態を一目瞭然で比較できる。また、HMD100は頭部装着型の装置であるから、使用者は、ハンドフリーで作業をしながら、対象物OBの状態について判定を行い、判定結果を見ることができる。また、HMD100を装着した状態で画像表示部20を透過して外景を視認できるので、使用者は広い範囲を見渡すことができる。このため、カメラ61の撮像範囲に全体を収められない大きな対象物OBを対象とする場合であっても、使用者が、対象の位置や範囲を容易に特定できる。
表示位置制御部164は、実空間の対象物OB(実対象物)と表示位置との対応付けの態様として、図6(C)にように表示位置を対象物OBに重なる位置としてもよく、表示位置が対象物OBから外れた位置となるようにしてもよく、何らかの対応付けが定義されていれば、その具体的態様は限定されない。
以上説明したように、本発明を適用した第1実施形態に係るHMD100は、使用者の頭部に装着され、実空間を視認可能に画像を表示する画像表示部20を有する。HMD100は、評価対象物である対象物OBに関する測定データと、対象物OBの測定データと比較する比較対象データとを取得するデータ取得部162を有する。また、表示対象の測定データと比較対象データとを比較することにより、対象物OBに対する判定結果を含む表示用データを生成する表示用データ生成部163を備える。また、表示用データ生成部163により生成する表示用データと、使用者が視認する実対象物である対象物OBとの位置を対応付けることにより、画像表示部20による表示用データの表示位置を定める表示位置制御部164を備える。HMD100は、表示位置制御部164が定める表示位置に従って、画像表示部20により表示用データに基づく画像を表示させる表示制御部190と、を備える。
このHMD100の構成、及び、HMD100の制御方法によれば、使用者の頭部に装着されるHMD100によって、実空間の対象物OBの判定結果を表示できる。このため、対象物OBに関する判定結果を容易に確認でき、簡易で直感的な方法によるメンテナンスが可能になる。
また、表示用データ生成部163は、対象物OBの測定データと比較対象データとを対照することにより、対象物OBの状態を評価し、判定結果を表示する表示用データを生成する。このため、HMD100によって対象物OBの状態を評価して判定結果を表示できる。
HMD100はカメラ61(撮像部)を備え、データ取得部162は、カメラ61の撮像画像データを対象物OBの測定データとして取得する。また、カメラ61の過去の撮像画像データまたは撮像画像と比較可能に構成された比較対象データを取得してもよい。この場合、対象物OBを撮像することにより、対象物OBの状態を評価して判定結果を表示できる。
また、カメラ61は使用者の視野方向を撮像するので、使用者の視野方向にある対象物OBを撮像し、対象物OBの状態を評価して判定結果を表示できる。
また、データ取得部162が取得する比較対象データは、対象物OBの設計データに基づき生成されたデータであってもよく、例えば設計標準データ122であってもよい。この場合、対象物OBの設計上の状態との差異に関する判定を行い、判定結果を表示できる。
表示位置制御部164は、表示用データの表示位置を、表示用データに含まれる判定結果が、画像表示部20を透過して視認される実空間の対象物OBに重なって視認される位置に定める。この場合、使用者が視認する実空間の対象物OBに対応する位置に、判定結果を表示するので、判定結果を容易に把握できる。
また、表示用データ生成部163は、判定結果を示す強調表示を行ってもよい。例えば、判定結果に基づき選択または特定される注目箇所を所定の表示色で強調表示する態様、注目箇所に対応付けて警戒情報を表示する態様等が挙げられる。また、注目箇所に対応付けて比較結果のデータを表示する態様、及び、注目箇所に対応付けて比較結果の変化に係るデータを表示する態様とすることも可能である。
[第2実施形態]
図7は、本発明を適用した第2実施形態に係る測定システム2の構成を示す図である。測定システム2は、HMD100と、測定装置300とを有し、HMD100と測定装置300とは相互に通信可能に構成される。図7には、HMD100と測定装置300とが通信ネットワーク4を介して通信する構成としたが、たとえば、HMD100と測定装置300とが直接、無線通信を実行してもよい。具体的には、Bluetooth(登録商標)、DirectWiFi(登録商標)等の技術を利用してHMD100と測定装置300とが、後述する制御データや測定データを送受信してもよく、この場合、通信ネットワーク4は必須ではない。
HMD100は、上述した第1実施形態で説明したHMD100と同様に構成される。HMD100については、同符号を付して説明を省略する。
測定装置300は、対象物OBに対する測定を行う装置であり、制御部301、測定部302、通信部303、操作部304、表示部305、及び記憶部310を備える。測定装置300は、測定対象物に対して非破壊的に測定を行う測定部302を有する。測定部302は、光学的な検出(測定)方法、磁気的または電気的な検出(測定)方法、超音波を利用した検出(測定)方法により測定を行う。測定の内容は、例えば、測定対象物の大きさ、厚さ、形状の測定とすることができる。また、測定対象物の表面及び/又は内部状態の測定を行ってもよく、測定結果に基づく探傷或いは劣化度の測定を行ってもよい。
制御部301は、プログラムを実行するCPU(図示略)、CPUが実行するプログラムやデータを一時的に格納するRAM(図示略)、及び、CPUが実行する基本制御プログラムやデータを不揮発的に記憶するROM(図示略)を備える。制御部301は、プログラムを実行することにより測定装置300を制御し、測定部302による測定の実行、HMD100との通信などを行う。
通信部303は、HMD100との間で制御データや測定データ等の各種データを送受信する。通信部303は、有線通信インターフェイス、または無線通信インターフェイスで構成され、具体的な通信方式やプロトコルは限定されない。
操作部304は、測定装置300を操作するオペレーターの操作を受け付ける。表示部305は、測定部302を用いた測定結果や測定装置300の動作状態を表示する。
測定システム2では、測定装置300で測定を行い、測定結果をHMD100が取得して、HMD100により測定結果に基づく判定を行うことができる。
第1実施形態では、HMD100がカメラ61の撮像画像データに基づき判定を行って判定結果を表示する例を説明した。この第2実施形態では、測定装置300の測定結果に基づきHMD100が判定結果を表示する。これにより、超音波探傷装置などHMD100が搭載することが容易でない装置を用いた特殊な測定方法による測定結果を利用して、HMD100が表示を行える。
図8は、測定装置300の動作を示すフローチャートであり、特に、測定対象物である対象物OBに対し測定を行う動作を示す。
制御部301は、操作部304により測定開始を指示する操作を受け付けて、測定部302による測定を開始する(ステップS31)。制御部301は、測定の対象である対象物OBに対し、測定する位置の位置検出を行う(ステップS32)。この位置検出で、制御部301は、予め設けられる基準に対する測定位置の相対的な位置を検出する。また、検出する測定位置は、測定開始位置を含み、測定終了時に測定終了位置を検出してもよい。位置の基準は、例えば、対象物OBの表面あるいは対象物OBの外部に設けられる基準点とすることができ、具体的には、基準位置を示すマーカーが配置される。マーカーは、測定装置300が磁気的または光学的に検出可能であり、二次元コードやバーコードを対象物OBの表面に貼付する形態であってもよい。測定装置300は、測定部302によりマーカーを検出し、或いは、図示しないカメラを備え、このカメラによりマーカーを検出する。また、測定装置300の外部の装置によりマーカーを検出して測定位置を検出してもよく、この場合、測定装置300は、ステップS32で、外部の装置から測定位置の検出結果を取得する。
制御部301は、測定部302による測定を実行し(ステップS33)、測定結果と、ステップS32で検出した測定位置に関するマッピング情報とを含む測定データを生成する(ステップS34)。マッピング情報は、対象物OBの全体または対象物OBにおける基準位置と測定位置とを対応付ける情報であり、この測定位置に測定結果が対応付けられる。測定部302による測定は、対象物OBの外面の特定の位置で行われる測定に限らず、特定の範囲を対象として面的に行ってもよい。この場合、測定位置に関する情報は、測定した範囲を示す情報となる。
制御部301は、ステップS34で生成した測定データを記憶部310に記憶し(ステップS35)、本処理を終了する。なお、測定を実行する位置が複数ある場合、或いは、測定範囲に対して複数回の測定を行う場合には、ステップS32〜S35の動作を繰り返し実行すればよい。
図7に示すように、記憶部310は、測定履歴データ311、及び測定データ312を記憶する。測定データ312は、図8のステップS35で記憶されるデータである。これに対し、測定履歴データ311は、過去に測定された際の測定データ312に相当する。つまり、制御部301は、測定を行って測定データ312を生成し記憶する場合に、既に記憶部310に記憶している測定データを、測定履歴データ311とする。このため、記憶部310においては過去の測定データが記憶されるため、例えば複数の測定データを比較することで、対象物OBの状態の経時変化を知ることができる。
測定履歴データ311は、最初に記憶部310に記憶される日時、または測定履歴データ311の形態で生成された日時を示すタイムスタンプ情報に対応付けられ、記憶部310に記憶される。具体的には、測定履歴データ311にタイムスタンプ情報を含めてもよく、測定日時を示すタイムスタンプ情報を含んでもよい。また、タイムスタンプ情報と測定履歴データ311とが対応付けされて、ともに記憶部310に記憶されてもよい。
測定履歴データ311は、測定履歴データ123と同様に、測定結果のデータを含んでもよく、判定結果に関するデータを含んでもよく、判定に用いたデータ自体を含んでもよい。測定履歴データ311は、測定結果のデータや過去の判定に用いたデータそのものを含まず、これらのデータを特定する情報(例えば、記憶部310に記憶されたデータのファイル名等)を含んでもよい。
記憶部310が記憶する測定履歴データ311は、タイムスタンプ情報、或いは、測定履歴データ311が含むデータに関する情報に基づき、選択し指定できる。このため、HMD100を装着する使用者が、測定装置300にアクセスして、測定履歴データ311を記憶部310から読み出して送信するよう指示できる。制御部140は、例えば操作部111で受け付けた操作に従って指定された測定履歴データ311を取得できる。
図9は、測定システム2の動作を示すフローチャートである。図9(A)はHMD100の動作を示し、図9(B)は測定装置300の動作を示す。
HMD100の制御部140は、通信部117を制御して測定装置300に接続し(ステップS51)、この接続に応答して、測定装置300においては制御部301が通信部303によりHMD100に接続する(ステップS71)。これにより、HMD100と測定装置300との間の通信が可能な状態となる。
制御部140は、測定装置300に対して測定データを要求する(ステップS52)。この要求は、制御データまたはコマンドを送信することで、測定装置300に通知される。制御部301は、HMD100から要求を受信し(ステップS72)、要求された測定データ312を記憶部310から読み出して、HMD100に送信する(ステップS73)。ここで、制御部140が測定データと、過去の測定データである測定履歴データとを要求した場合、制御部301は測定履歴データ311及び測定データ312をHMD100に送信する。
制御部140は、測定装置300から送信されるデータを受信して、記憶部120に記憶する(ステップS53)。ここで、制御部140は、測定装置300から受信した測定履歴データ311を、測定履歴データ123として記憶し、測定データ312を測定結果のデータとして一時的に記憶する。
制御部140は、カメラ61を制御して撮像を実行させ(ステップS12)、撮像画像データを取得する(ステップS54)。ステップS54では、使用者が実空間の対象物OBを視認する位置や、使用者の視野における対象物OBの位置を検出するための撮像を行う。制御部140は、撮像画像データから対象物OBの画像を抽出し(ステップS55)、使用者の視野または視線方向に対する対象物OBの相対的位置を特定する(ステップS56)。
制御部140は、ステップS53で受信した測定データ312と、記憶部120に記憶した設計標準データ122または測定履歴データ123とに基づき判定を行い、判定結果を含む表示用のデータを生成する(ステップS57)。
制御部140は、ステップS56で特定した対象物OBの位置に基づき、判定結果の表示位置を決定し(ステップS58)、決定した表示位置に判定結果を表示する(ステップS59)。
制御部140は、表示を終了するか否かを判定する(ステップS60)。使用者の操作により表示の終了が指示された場合、制御部140は表示を終了すると判定し(ステップS60;YES)、測定装置300に対して終了の通知を送信して(ステップS61)、本処理を終了する。表示を終了しないと判定した場合(ステップS60;NO)、制御部140はステップS52に戻る。
制御部301は、HMD100から終了の通知を受信したか否かを判定し(ステップS74)、通知を受信した場合(ステップS74;YES)、本処理を終了する。また、終了の通知を受信していない場合(ステップS74;NO)、ステップS72に戻る。
図10は、第2実施形態におけるHMD100の表示例を示す図であり、(A)は使用者の視野VRに対象物OBが視認される状態を示し、(B)は判定結果の表示例を示し、(C)は判定結果の別の表示例を示す。
図10(A)の例では使用者の視野VRに筒型の対象物OBが視認され、この対象物OBに対し測定装置300により超音波探傷検査を行う例を示す。
測定装置300により傷の存在が検出された場合、傷を検出した位置を含む測定データ312が測定装置300からHMD100に送信され、HMD100は、測定データ312が示す傷の、視野VRにおける位置を特定して表示を行う。
図10(B)に示す表示例では、傷R1、R2のそれぞれに対応して、強調表示V11、V12が表示される。HMD100は、傷R1と傷R2の深さや深刻度、或いは大きさ等から、傷R1、R2に対し、要注意の度合いを示すランク付けを行ってもよく、傷R1、R2のランクに応じた態様で強調表示V11、V12を表示してもよい。この場合、使用者は、強調表示V11、V12の形状、色あるいは大きさにより、傷R1、R2への対応の緊急性等を判断できる。また、例えば、測定履歴データ311に基づき、傷R1、R2のうち、過去にも測定装置300により検出された傷を別の表示態様で強調表示してもよい。
また、HMD100は、測定結果に基づき注目を要する箇所である傷R1、R2だけでなく、測定装置300により測定を行った範囲を合わせて表示してもよい。図10(C)の例では、測定部302(例えば、超音波プローブ)で測定を済ませた範囲に、強調表示V13を表示する。この場合、測定の進捗状況を使用者が把握できる。また、測定履歴データ311に基づいて、過去に測定を行った範囲を、別の表示態様で示してもよい。
図10(B)、(C)は比較結果の表示の一態様を示す例であり、その他の態様による表示を行うことも勿論可能である。図10の例では、実空間の対象物OBに重なって見えるように、発見された傷R1,R2に枠形状の強調表示V11、V12を表示する。本発明はこれに限定されず、判定に用いた対象物OBに関する測定データ、或いは、この測定データと比較されたデータに係る画像を表示してもよい。また、対象物OBとともに、測定データと、比較されたデータとを並べて表示してもよい。例えば、測定装置300の測定データを示す図表と、過去に対象物OBに対して測定装置300が測定したデータを示す図表とを、並べて表示してもよい。この場合、2つの、または複数の画像を並べて表示することにより、使用者は、経時変化を視覚的に比較できる。この場合、表示される複数の画像のうち古い方の画像、或いは、対象物OBの過去の状態に関する画像の視認性を低くしてもよい。例えば、当該画像の透過率を上げ、外光に対して薄く視認されるようにしてもよい。この場合、結果的に、より新しい方の画像を認識しやすくなり、強調表示できる。
また、複数の画像を並べて表示する場合に、比較、判定により発見された注目箇所に、マーカー表示をしてもよい。このマーカー表示は、複数の画像の全てに表示してもよく、より新しい画像のマーカーを、視認性が高くなるように太くしてもよい。また、測定データに係る画像及び比較されたデータに係る画像が図表である場合に、図表中にマーカー等を付加して注目箇所を強調してもよい。例えば、図10(B)の傷R1、R2に対応する測定データのグラフ中の波形等に対して、マーカーや枠による装飾表示または強調表示をしてもよい。
また、強調表示をHMD100により立体画像として表示してもよい。この場合、対象物OBに重畳する強調表示としての装飾を立体表示してもよい。また、対象物OBの撮像画像を利用して、対象物OBの立体画像を生成し、この立体画像を視野VRで視認される実空間の対象物OBに重ねて表示してもよい。この場合、例えば傷R1、R2を含む部分のみを立体画像として表示するなど、強調表示される部分を立体表示することで、判定結果をより一層わかりやすく強調して表示できる。
さらに、傷R1,R2のように明らかな異常とみなすことができる注目箇所が発見された場合、表示する画像において、注目箇所に装飾表示または強調表示を行い、この装飾表示または強調表示の態様を、危険度または緊急度により段階的に分けてもよい。また、判定の結果、明らかな異常とみなすことができる注目箇所が発見された場合、注目箇所に対する表示態様の装飾や強調を行うとともに、音声処理部187が報知音声を右イヤホン32及び左イヤホン34から出力してもよい。
このように、複数の画像や図表を表示して、継時変化や判定の様子等を視覚的に示すことにより、対象物OBの状態を一目瞭然で比較できる。また、HMD100は頭部装着型の装置であるから、使用者は、ハンドフリーで作業をしながら、対象物OBの状態について判定を行い、判定結果を見ることができる。また、HMD100を装着した状態で画像表示部20を透過して外景を視認できるので、使用者は広い範囲を見渡すことができる。このため、測定装置300が一度で測定できない程度の大きな対象物OBを対象とする場合であっても、使用者が、対象の位置や範囲を容易に特定できる。
また、本発明の適用範囲は、例えば医療分野を対象としてもよい。
図11は、測定システム2を医療分野に適用した場合のHMD100の表示例を示す図である。
この図11には、測定装置300として超音波画像診断装置を用いる例を示す。この例では、測定装置300の測定部302は超音波プローブ(探触子)である。測定装置300は、測定部302が人体の測定対象部分に接触した状態で、測定対象部分に対して測定部302から超音波を発し、反射波を検出することにより、測定を行う。測定装置300は、測定部302により検出する反射波を処理することによって画像を形成し、この画像を測定データ312として記憶する。
図11(A)には、測定装置300が測定した測定データ312に係る測定画像DNを、実空間の対象物OBに対応する位置に表示する例を示す。使用者の視野VRには対象物OBとしての人体が見えている。図11(A)の例では、測定対象は符号OBPで示す範囲であり、この範囲OBPから離れるように、測定画像DNが、HMD100により表示される。また、HMD100の制御部140は、測定画像DNを、例えば、測定対象の人物について過去に測定されたときの測定データ312と比較することで、健康上の問題の有無を判定する。図11(A)には、制御部140が判定した判定結果に対応する強調表示V15が表示される。強調表示V15は測定画像DNに基づき健康上の問題があると判定された位置を視覚的に示す。
図11(B)は、測定装置300が測定した測定データ312に係る測定画像DNを、実空間の対象物OBに対応する位置に表示する別の表示例であり、測定対象の範囲OBPに重なる位置に測定画像DNが表示される。また、制御部140が判定した判定結果に対応する強調表示V16が表示される。強調表示V16は測定画像DNに基づき健康上の問題があると判定された位置を視覚的に示し、測定画像DNに重なって表示される。
この例では、測定画像DNが範囲OBPに重なって見えるため、測定装置300の測定結果と、測定対象の人物の身体である対象物OBとの対応が視覚的にわかりやすいという利点がある。さらに、強調表示V16により、健康上の問題があると判定された位置が、測定画像DN、及び、対象物OBの両方に対応する位置に表示されるため、判定結果がよりわかりやすい。
また、図11(B)では、過去の測定画像DPが、測定画像DNに並べて表示される。測定画像DPは、測定画像DNと同じ位置、または同じ範囲を含む測定データ312であり、田追えば記憶部310に測定履歴データ311として記憶される。
ここで、記憶部310が記憶する測定履歴データ311、及び測定データ312は、測定対象の対象物OBにおいて測定した位置や範囲を特定する位置情報を含む。従って、制御部140は、測定画像DNを表示する位置、及び、測定画像DNに対応する測定データ312と比較する測定履歴データ311を選択する場合に、位置を基準として処理を行える。従って、適切な比較、及び、表示を行える。
図11(B)では、測定画像DPと測定画像DNとを表示することにより、制御部140が判定した判定結果を、よりわかりやすく表示できる。
さらに、測定画像DPと測定画像DNとを表示することにより、制御部140が判定した判定結果に依らず、診断の技量と責任を有する医師が、確定的な診断を行うことも可能であり、この診断の補助としてHMD100による判定結果を活用できる。
測定システム2の適用対象を医療目的とした場合、測定装置300は、超音波画像診断装置に限定されない。例えば、測定装置300は、内視鏡、腹腔鏡、関節鏡、X線撮像装置等の撮像装置であってもよい。また、測定装置300は、MRI(Magnetic Resonance Imaging)検査装置、CT(Computed Tomography)検査装置、サーモグラフィー撮像装置等、測定結果のデータに基づき、測定画像を生成する装置であってもよい。測定履歴データ311は、内視鏡、腹腔鏡、関節鏡、X線撮像等の撮像画像であってもよい。また、測定履歴データ311は、MRI検査、CT検査、サーモグラフィーの結果画像であってもよく、この結果画像を生成する場合に用いた測定結果のデータであってもよい。
このように、測定システム2を医療分野に適用することにより、健康上の問題に関して、過去のデータや比較対象のデータに基づき判定を行い、判定結果をわかりやすく表示できる。また、同一人物に対して複数回の検査を行った場合に、これら複数回の検査で得られた測定データ312を用いて、適切に健康上の問題について判定を行うことができる。具体的には、手術後の経過観察、以前のMRI検査の結果との比較による診断、患者が症状を訴える箇所を医師が見ながら、内視鏡などの画像を重ねて観察し異常箇所を特定する等の用途が期待できる。
このように、本発明を適用した第2実施形態の測定システム2(表示システム)は、評価対象物である対象物OBに対し測定を実行して測定データを生成する測定装置300と、測定装置300の測定結果に基づく表示を行うHMD100(表示装置)と、を備える。HMD100は、測定装置300から、対象物OBに関する測定データ312と、測定データ312と比較する比較対象データである測定履歴データ311とを取得する。HMD100は、測定装置300から取得したデータに基づき、対象物OBの判定を行い、判定結果を含む表示用データを生成して表示する。また、HMD100は、対象物OBの位置と使用者が視認する実対象物である対象物OBとの位置を対応付けることにより、表示用データの表示位置を定める。このため、測定装置300によって対象物OBに対する測定を行い、この測定結果に基づき、HMD100が対象物OBの状態を判定して、判定結果に関する表示を行う。これにより、頭部装着型の表示装置を利用して、評価対象物に関する評価結果を容易に確認することができ、簡易で直感的な方法によるメンテナンスが可能になる。
また、データ取得部162は、測定装置300と通信を行うことにより、対象物OBの測定データ312を取得できる。ここで、測定システム2は、測定装置300からHMD100に直接、測定データ312及び/又は測定履歴データ311を送信する態様に限定されない。例えば、測定装置300及びHMD100と通信可能に接続されるデータ記憶装置(図示略)を設けてもよい。この場合、データ記憶装置が、測定装置300から測定データ312、及び測定履歴データ311を取得して、記憶する。HMD100は、データ記憶装置から測定データ312、及び測定履歴データ311を取得してもよい。また、データ記憶装置は、測定装置300が送信する測定データ312を随時受信して記憶する構成としてもよい。
また、データ取得部162は、対象物OBの測定データとして測定装置300が測定した最新または現在の測定結果を含む測定データ312を取得する。データ取得部162は、比較対象データとして、過去に測定装置300により測定された測定結果を含む測定履歴データ311、または、比較用として予め用意された設計標準データ122を取得する。このため、対象物OBに対し、設計標準データ122を利用して設計との差異の判定を行うことができ、測定装置300が過去に測定したデータに基づく経時変化の判定を行うこともできる。
また、表示用データ生成部163は、対象物OBの測定データ履歴311に係る画像、及び/又は測定履歴データ311と比較されるデータである測定データ312等に係る画像を含む画像と、判定結果に係る画像とを含む表示用データを生成する。表示位置制御部164は、測定履歴データ311に係る画像、及び/または、比較されるデータに係る画像の表示位置を、使用者が対象物OBを視認する位置に対応する位置とする。このため、使用者が視認する対象物OBに対応する位置に、測定データ312に係る測定画像DNや比較されるデータである測定履歴データ311に係る測定画像DPを表示できる。このため、対象物OBに対応する多くの情報を使用者に視認させることができる。
また、データ取得部162は、対象物OBの測定データ312として、対象物OBの画像であって対象物OBの外部から視認できない画像を取得する。例えば、超音波画像診断装置、内視鏡、腹腔鏡、関節鏡、X線撮像等の撮像画像や、MRI検査、CT検査、サーモグラフィーの結果画像等を取得する。そして、表示用データ生成部163は、測定データ312としての画像を含む表示用データを生成する。表示位置制御部164は、測定データ312としての画像の表示位置を、対象物OBにおいて測定データ312に該当する範囲を使用者が視認する位置に対応する位置とする。例えば図11(B)において、超音波画像診断装置の画像である測定画像DNを、対象物OBとしての人体において超音波画像診断装置が撮影した範囲OBPに重なる位置、或いは対応する位置に、表示する。これにより、使用者が視認する対象物OBに対応する位置に、外部から視認できない画像を表示し、対象物OBに関する不可視の情報を使用者に視認させることができる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
上記各実施形態において、使用者が表示部を透過して外景を視認する構成は、右光学像表示部26及び左光学像表示部28が外光を透過する構成に限定されない。例えば外景を視認できない状態で画像を表示する表示装置にも適用可能である。具体的には、カメラ61の撮像画像、この撮像画像に基づき生成される画像やCG、予め記憶された映像データや外部から入力される映像データに基づく映像等を表示する表示装置に、本発明を適用できる。この種の表示装置としては、外景を視認できない、いわゆるクローズ型の表示装置を含むことができる。また、AR表示、MR表示、或いはVR表示といった処理を行わず、外部から入力される映像データまたはアナログ映像信号を表示する表示装置も、本発明の適用対象として勿論含まれる。
また、例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
さらに、上記実施形態では、画像表示部20と制御装置10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明したが、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置10として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。また、制御装置10が画像表示部20と分離して構成され、制御装置10と画像表示部20との間で無線通信により各種信号を送受信する構成としてもよい。
また、例えば、画像表示部20において画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、画像光を生成する構成として、LCOS(Liquid Crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。
本発明でいう「表示部」は、画像光を出射する構成に相当し、HMD100が画像光を出射することを「表示する」と説明した。すなわち、上記各実施形態では、左右の画像光生成部により画像光を生成し、右光学像表示部26及び左光学像表示部28によって、使用者の右眼と左眼のそれぞれに向けて画像光を照射し、使用者の右眼と左眼のそれぞれに画像光を入射させる構成を例示する。「表示部」の構成はこれに限定されない。すなわち、画像光を照射するものであればよい。例えば本実施形態の構成では、ハーフミラー261A、262Aを有する「右導光部」及び「左導光部」によって、使用者の眼に向けて画像光を出射する。また、画像光を生成する構成として、右バックライト221及び左バックライト222と、右LCD241及び左LCD242とを備える。「表示部」はこれらの構成を必須としない。
例えば、画像表示部20の右表示駆動部22及び左表示駆動部24のいずれか、又は両方に内蔵する機構によって生成される画像光を、画像表示部20の使用者側すなわち使用者の眼を向く側に設けられる反射機構により反射して、使用者の眼に出射してもよい。ここで、反射機構は、例えばMEMS(Micro Electro Mechanical Systems)ミラーを用いた走査光学系を採用することもできる。すなわち、画像光生成部が射出する光を走査するMEMSミラーを有する走査光学系を備え、この走査光学系で走査される光が使用者の眼に直接入射する構成としてもよい。また、走査光学系により走査される光によって虚像が形成される光学部材を、画像表示部20に設けてもよい。この光学部材はMEMSミラーが走査する走査光による虚像を形成する。この場合、MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が視認(認識)される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
また、走査光学系はMEMSミラーを備えた構成に限定されない。画像光を生成する機構も、レーザー光を発するレーザー光源であってもよい。例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、光射出部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。
また、走査される光を受ける虚像形成面に代えて、回折格子を用いて使用者の眼に画像光を導く構成であってもよい。つまり、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/又は反射させて導く機能のみを有するものであってもよい。
MEMS等を有する走査光学系を備えた構成では、画像表示部20における走査光学系の取り付け角度を変更することで、使用者が画像を視認する位置、すなわち画像の表示位置を変更できる。従って、上記各実施形態で表示位置を変更する処理において、右LCD241、左LCD242における画像の表示位置を変更する動作に代えて、走査光学系の角度を変更する動作を行ってもよい。
また、画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。
また、上記各実施形態では使用者の眼前に位置する右光学像表示部26及び左光学像表示部28の一部に、ハーフミラー261A、262Aにより虚像が形成される構成を例示した。本発明はこれに限定されず、右光学像表示部26及び左光学像表示部28の全面または大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
さらに、本発明の光学素子は、ハーフミラー261A、262Aを有する右導光板261、左導光板262に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図4、図7等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部140が実行するプログラムは、記憶部120または制御装置10内の他の記憶装置(図示略)に記憶されてもよいし、外部の装置に記憶されたプログラムを通信部117、又はインターフェイス114を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成のうち、操作部111のみが単独の使用者インターフェイス(UI)として形成されてもよい。また、制御装置10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、制御部140が制御装置10と画像表示部20との両方に形成されていてもよいし、制御装置10に形成された制御部140と画像表示部20に形成されたCPUとが行う機能が別々に分けられている構成としてもよい。
2…測定システム、10…制御装置、20…画像表示部(表示部)、22…右表示駆動部、24…左表示駆動部、26…右光学像表示部、28…左光学像表示部、61…カメラ、100…頭部装着型表示装置(表示装置)、114…インターフェイス、117…通信部、120…記憶部、122…設計標準データ、123…測定履歴データ、124…特徴量データ、125…判定結果データ、140…制御部、150…オペレーティングシステム、160…画像処理部、161…撮像制御部、162…データ取得部、163…表示用データ生成部、164…表示位置制御部、170…通信制御部、187…音声処理部、190…表示制御部、201…右バックライト制御部、202…左バックライト制御部、211…右LCD制御部、212…左LCD制御部、221…右バックライト、222…左バックライト、241…右LCD、242…左LCD、251…右投写光学系、252…左投写光学系、261…右導光板、262…左導光板、300…測定装置、301…制御部、310…記憶部、311…測定履歴データ、312…測定データ、OB…対象物(評価対象物、実対象物)。

Claims (13)

  1. 使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部と、
    評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得するデータ取得部と、
    前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成する表示用データ生成部と、
    前記表示用データ生成部により生成する前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定める表示位置制御部と、
    前記表示位置制御部が定める表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させる表示制御部と、
    を備えることを特徴とする表示装置。
  2. 前記表示用データ生成部は、前記評価対象物の測定データと前記比較対象データとを対照することにより、前記評価対象物の状態を評価し、評価結果を表示する前記表示用データを生成すること、
    を特徴とする請求項1記載の表示装置。
  3. 撮像部を備え、
    前記データ取得部は、前記撮像部の撮像画像データを前記評価対象物の測定データとして取得し、前記撮像部の過去の撮像画像データまたは撮像画像と比較可能に構成された前記比較対象データを取得すること、
    を特徴とする請求項2記載の表示装置。
  4. 前記撮像部は前記使用者の視野方向を撮像すること、
    を特徴とする請求項3記載の表示装置。
  5. 前記データ取得部が取得する前記比較対象データは、前記評価対象物の設計データに基づき生成されたデータであること、
    を特徴とする請求項1から4のいずれかに記載の表示装置。
  6. 前記データ取得部は、測定装置、または測定装置の測定結果を含む測定データを記憶する記憶装置と通信を行うことにより、前記評価対象物の測定データを取得すること、
    を特徴とする請求項2記載の表示装置。
  7. 前記データ取得部は、前記評価対象物の測定データとして前記測定装置が測定した最新または現在の測定結果を含むデータを取得し、前記比較対象データとして、過去に前記測定装置により測定された測定結果を含むデータまたは比較用として予め用意されたデータを取得すること、
    を特徴とする請求項6記載の表示装置。
  8. 前記表示位置制御部は、前記表示用データの表示位置を、前記表示用データに含まれる評価結果が、前記表示部を透過して視認される実空間の前記評価対象物に重なって視認される位置に定めること、
    を特徴とする請求項1から7のいずれかに記載の表示装置。
  9. 前記表示用データ生成部は、前記評価対象物の測定データに係る画像及び前記比較対象データに係る画像の少なくともいずれかを含む画像と、前記評価対象物に対する評価結果に係る画像とを含む前記表示用データを生成し、
    前記表示位置制御部は、前記評価対象物の測定データに係る画像の表示位置、または、前記比較対象データに係る画像の表示位置を、前記使用者が前記実対象物を視認する位置に対応する位置とすること、
    を特徴とする請求項1から8のいずれかに記載の表示装置。
  10. 前記データ取得部は、前記評価対象物が前記実対象物である場合に、前記測定データとして前記実対象物の画像であって前記実対象物の外部から視認できない画像を取得し、
    前記表示用データ生成部は、前記測定データとしての前記画像を含む前記表示用データを生成し、
    前記表示位置制御部は、前記測定データとしての画像の表示位置を、前記実対象物において前記測定データとしての画像に該当する範囲を前記使用者が視認する位置に対応する位置とすること、
    を特徴とする請求項1から8のいずれかに記載の表示装置。
  11. 前記表示用データ生成部は、前記評価結果を所定の表示色で強調表示する態様、前記評価結果に対応付けて警戒情報を表示する態様、前記評価結果に対応付けて比較結果のデータを表示する態様、及び、前記評価結果に対応付けて比較結果の変化に係るデータを表示する態様のいずれかの態様によって強調表示する前記表示用データを生成すること、
    を特徴とする請求項1から10のいずれかに記載の表示装置。
  12. 評価対象物に対し測定を実行して測定データを生成する測定装置と、前記測定装置の測定結果に基づく表示を行う表示装置と、を備え、
    前記表示装置は、
    使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部と、
    前記評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得するデータ取得部と、
    前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成する表示用データ生成部と、
    前記表示用データ生成部により生成する前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定める表示位置制御部と、
    前記表示位置制御部が定める表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させる表示制御部と、を備えること、
    を特徴とする表示システム。
  13. 使用者の頭部に装着され、実空間を視認可能に画像を表示する表示部を備える表示装置の制御方法であって、
    評価対象物に関する測定データと、前記評価対象物の測定データと比較する比較対象データとを取得し、
    前記評価対象物の測定データと前記比較対象データとを比較することにより、前記評価対象物に対する評価結果を含む表示用データを生成し、
    前記表示用データと、前記使用者が視認する実対象物との位置を対応付けることにより、前記表示部による前記表示用データの表示位置を定め、
    定めた表示位置に従って、前記表示部により前記表示用データに基づく画像を表示させること、
    を特徴とする表示装置の制御方法。
JP2015177322A 2015-09-09 2015-09-09 表示装置、表示システム、及び、表示装置の制御方法 Withdrawn JP2017055233A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015177322A JP2017055233A (ja) 2015-09-09 2015-09-09 表示装置、表示システム、及び、表示装置の制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015177322A JP2017055233A (ja) 2015-09-09 2015-09-09 表示装置、表示システム、及び、表示装置の制御方法

Publications (1)

Publication Number Publication Date
JP2017055233A true JP2017055233A (ja) 2017-03-16

Family

ID=58317868

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015177322A Withdrawn JP2017055233A (ja) 2015-09-09 2015-09-09 表示装置、表示システム、及び、表示装置の制御方法

Country Status (1)

Country Link
JP (1) JP2017055233A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019087951A1 (ja) * 2017-10-31 2019-05-09 株式会社日立製作所 検査作業管理システム及び検査作業管理方法
JP2020149672A (ja) * 2019-03-11 2020-09-17 株式会社ミツトヨ 測定結果表示装置及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002352224A (ja) * 2001-05-29 2002-12-06 Topcon Corp 画像測定表示装置、画像測定表示システム、施工管理方法、施工状態監視システム
JP2006140816A (ja) * 2004-11-12 2006-06-01 Konica Minolta Photo Imaging Inc 映像表示装置及び映像表示システム
JP2015099184A (ja) * 2013-11-18 2015-05-28 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002352224A (ja) * 2001-05-29 2002-12-06 Topcon Corp 画像測定表示装置、画像測定表示システム、施工管理方法、施工状態監視システム
JP2006140816A (ja) * 2004-11-12 2006-06-01 Konica Minolta Photo Imaging Inc 映像表示装置及び映像表示システム
JP2015099184A (ja) * 2013-11-18 2015-05-28 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019087951A1 (ja) * 2017-10-31 2019-05-09 株式会社日立製作所 検査作業管理システム及び検査作業管理方法
JP2019082864A (ja) * 2017-10-31 2019-05-30 株式会社日立製作所 検査作業管理システム及び検査作業管理方法
JP7193913B2 (ja) 2017-10-31 2022-12-21 株式会社日立製作所 検査作業管理システム及び検査作業管理方法
JP2020149672A (ja) * 2019-03-11 2020-09-17 株式会社ミツトヨ 測定結果表示装置及びプログラム
CN111698496A (zh) * 2019-03-11 2020-09-22 株式会社三丰 测定结果显示装置及存储介质

Similar Documents

Publication Publication Date Title
US11073901B2 (en) Display device, control method for display device, and computer program
US10564919B2 (en) Display system, display apparatus, method for controlling display apparatus, and program
US9898868B2 (en) Display device, method of controlling the same, and program
US10782528B2 (en) Head mounted display and control method thereof
JP6492531B2 (ja) 表示装置、及び、表示装置の制御方法
JP6554948B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2017102768A (ja) 情報処理装置、表示装置、情報処理方法、及び、プログラム
JP6828465B2 (ja) 内視鏡操作支援システム
JPWO2013179427A1 (ja) 表示装置、ヘッドマウントディスプレイ、校正方法及び校正プログラム、並びに記録媒体
JP2018142857A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP2019159076A (ja) 頭部装着型表示装置、表示制御方法、およびコンピュータープログラム
JP2016224086A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2017134575A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2019164420A (ja) 透過型頭部装着型表示装置および透過型頭部装着型表示装置の制御方法、透過型頭部装着型表示装置の制御のためのコンピュータープログラム
JP2018182570A (ja) 視線情報共有方法および視線情報共有システム
KR101467529B1 (ko) 착용형 정보 제공 시스템
JP2016122177A (ja) 表示装置、及び、表示装置の制御方法
EP4158447A1 (en) Systems and methods for providing mixed-reality experiences under low light conditions
JP2017191546A (ja) 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
JP2017055233A (ja) 表示装置、表示システム、及び、表示装置の制御方法
JP2017134630A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2016116066A (ja) 表示装置、及び、表示装置の制御方法
JP4549213B2 (ja) 多重シーン撮像用光学素子および視線検出入力装置
JP2016181864A (ja) 表示装置、及び、表示装置の制御方法
WO2024047990A1 (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180809

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20180906

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190716

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20190917