JP2019105885A - 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法 - Google Patents

頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法 Download PDF

Info

Publication number
JP2019105885A
JP2019105885A JP2017236422A JP2017236422A JP2019105885A JP 2019105885 A JP2019105885 A JP 2019105885A JP 2017236422 A JP2017236422 A JP 2017236422A JP 2017236422 A JP2017236422 A JP 2017236422A JP 2019105885 A JP2019105885 A JP 2019105885A
Authority
JP
Japan
Prior art keywords
unit
captured image
image data
data
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017236422A
Other languages
English (en)
Inventor
文弥 堀
Fumiyo Hori
文弥 堀
智穂 立川
Chiho Tachikawa
智穂 立川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2017236422A priority Critical patent/JP2019105885A/ja
Priority to US16/212,789 priority patent/US10816808B2/en
Publication of JP2019105885A publication Critical patent/JP2019105885A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/34Graphical or visual programming

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】動作ステップごとに撮像画像データの利用の可否を制御することで、セキュリティー性の確保と使用者の利便性の向上とを両立させる。【解決手段】使用者の頭部に装着されるHMD100であって、実行順序が予め定められた複数の作業ブロックを含む工程フローを定義する工程フローデータ162を記憶する記憶部160と、外景を撮像するカメラ60と、工程フローデータ162に従って工程フローを実行する制御部150と、を備え、工程フローデータ162の少なくともいずれかの作業ブロックは、カメラ60の撮像画像データの利用を許可するか否かの設定を含み、制御部150は、工程フローを実行する場合に、作業ブロックに関する工程フローデータ162の設定に従って、作業ブロックごとの撮像画像データの利用の可否を制御するHMD100。【選択図】図6

Description

本発明は、頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法に関する。
従来、使用者の頭部に装着され、使用者に視認可能に画像を表示する頭部装着型表示装置が知られている(例えば、特許文献1参照)。この頭部装着型表示装置には、様々な機能が搭載され高機能が進んでいる。このため、頭部装着型表示装置を作業現場で使用する場合、情報漏洩に対する対策が必要となる。
特許文献1は、撮影機能を制限する機能を備えた頭部装着型表示装置を開示する。
特開2016−212345号公報
ところで、頭部装着型表示装置を作業支援に用いる場合、作業の場面によっては頭部装着型表示装置の撮像部に撮像を実行させて、撮像画像データを保存しておきたい場合もある。ところが頭部装着型表示装置にインストールされた基本制御プログラム(OS)の機能により撮像制限を行う場合、一律に撮像機能を制限するか否かを設定するしかできず、利便性が低下する要因となっていた。
本発明は、動作ステップごとに撮像画像データの利用の可否を制御することで、セキュリティー性の確保と使用者の利便性の向上とを両立させることを目的とする。
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置であって、実行順序が予め定められた複数の動作ステップを含む動作フローを定義する制御データを記憶する記憶部と、外景を撮像する撮像部と、前記制御データに従って前記動作フローを実行する制御部と、を備え、前記制御データの少なくともいずれかの前記動作ステップは、前記撮像部の撮像画像データの利用を許可するか否かの設定を含み、前記制御部は、前記動作フローを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記動作ステップごとの前記撮像画像データの利用の可否を制御する。
この構成によれば、制御部が制御データを実行する場合に、動作ステップごとの撮像画像データの利用の可否を制御することができる。従って、動作ステップごとに撮像画像データの利用の可否を制御して、セキュリティー性の確保と使用者の利便性の向上とを両立させることができる。
また、本発明は、前記制御部は、前記動作ステップを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記撮像部を動作させる状態と停止させる状態とを切り替える。
この構成によれば、制御部に制御データを実行させることで、撮像部の動作状態の切り替えが実行できる。
また、本発明は、前記撮像部の撮像画像データを記憶する画像記憶部を備え、前記制御部は、前記動作ステップを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記画像記憶部に記憶された前記撮像部の撮像画像データを利用するか否かを制御する。
この構成によれば、制御部に制御データを実行させることで、画像記憶部に記憶された撮像画像データの利用の可否を制御することができる。
また、本発明は、前記制御部は、コード情報を含む画像を撮像する処理を含む前記動作ステップを実行する場合に、前記撮像部の撮像画像データを利用する制御を行い、前記撮像部の撮像撮像データから前記コード情報を抽出して前記記憶部に記憶させる。
この構成によれば、コード情報を含む画像を撮像する処理を実行する場合に、撮像撮像データからコード情報を抽出することができる。
また、本発明は、前記制御部は、コード情報を含む画像を撮像する処理を含む前記動作ステップを実行する場合に、前記撮像画像データから抽出された前記コード情報に基づき前記撮像撮像データの使用可能回数を決定し、前記動作フローに含まれる他の前記動作ステップで前記使用可能回数を上限として前記撮像画像データの利用を可能とする。
この構成によれば、撮像画像データを利用可能な回数の上限を設定することできる。
また、本発明は、前記制御部は、前記撮像画像データの利用が可能に設定された前記動作ステップを実行する場合に、前記撮像部の複数回の撮像に相当する前記撮像画像データの利用を可能とする。
この構成によれば、撮像画像データの利用が可能に設定された動作ステップにおいて、複数回の撮像を行うことができる。
また、本発明は、報知部を備え、前記制御部は、前記画像記憶部に記憶された前記撮像部の前記撮像画像データを前記記憶部に記憶させる際に前記報知部による報知を行う。
この構成によれば、撮像画像データを記憶部に記憶させることを報知することができる。
上記課題を解決するため、本発明は、実行順序が定められた複数の動作ステップを含む動作フローを定義する制御データを編集可能な編集装置であって、入力を受け付ける入力部と、表示面に表示を行う表示部と、作業領域を含む作業用画面を前記表示面に表示させ、前記入力部により受け付けられた入力に応じて、前記動作ステップを示すオブジェクトであって前記動作ステップの内容を示す画像を含む前記オブジェクトを前記作業領域に配置し、前記作業領域における前記オブジェクトの配置に基づき前記動作フローを作成し、作成した前記動作フローを定義する前記制御データを生成する制御部と、を備え、前記制御データは、少なくともいずれかの前記動作ステップについて、撮像部の撮像画像データの利用を許可するか否かの設定を含む。
この構成によれば、動作フローの動作ステップごとに、撮像部の撮像画像データの利用を許可するか否かが設定された動作フローを作成することができる。
また、本発明は、頭部装着型表示装置との接続部を備え、前記制御部は、前記接続部に接続された前記頭部装着型表示装置に、前記頭部装着型表示装置に対応付けて作成された前記動作フローを定義する前記制御データを出力する。
この構成によれば、頭部装着型表示装置に対応付けて作成された制御データを頭部装着型表示装置に出力して、頭部装着型表示装置において制御データを実行させることができる。
また、本発明は、前記接続部には、複数の前記頭部装着型表示装置を接続可能であり、前記制御部は、前記接続部に接続された複数の前記頭部装着型表示装置の各々に対し、前記頭部装着型表示装置に対応付けて作成された前記動作フローを定義する前記制御データを出力する。
この構成によれば、複数の頭部装着型表示装置の各々に対応付けて作成された制御データを、対応する頭部装着型表示装置に出力し、対応する頭部装着型表示装置において制御データを実行させることができる。
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置と、情報処理装置とを備える情報処理システムであって、前記頭部装着型表示装置は、通信を行う第1通信部と、実行順序が予め定められた複数の動作ステップを含む動作フローを定義する制御データを記憶する記憶部と、外景を撮像する撮像部と、前記制御データに従って前記動作フローを実行する第1制御部と、を備え、前記制御データの少なくともいずれかの前記動作ステップは、前記撮像部の撮像画像データの利用を許可するか否かの設定を含み、前記第1制御部は、前記動作フローを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記動作ステップごとの前記撮像画像データの利用の可否を制御し、前記撮像画像データの利用を許可する場合に、前記撮像部により撮像された前記撮像画像データを前記第1通信部により前記情報処理装置に送信する。
この構成によれば、動作ステップごとの撮像画像データの利用の可否を制御することが可能となり、撮像画像データの利用を許可する場合には、撮像された撮像画像データを情報処理装置に送信することができる。従って、撮像画像データの利用を許可する場合に、撮像された撮像画像データを情報処理装置に送信して、撮像画像データの外部への流出を防止し、セキュリティー性を確保することができる。
また、本発明は、前記第1制御部は、前記撮像画像データに、前記撮像画像データの利用を制限する制限情報を付加して前記情報処理装置に送信する。
この構成によれば、撮像画像データの外部への流出をより効果的に防止して、セキュリティー性を確保することができる。
また、本発明は、前記第1制御部は、前記撮像画像データに、前記頭部装着型表示装置を識別する第1識別情報を付加して前記情報処理装置に送信する。
この構成によれば、撮像画像データの外部への流出をより効果的に防止して、セキュリティー性を確保することができる。
また、本発明は、前記情報処理装置は、通信を行う第2通信部と、前記頭部装着型表示装置から受信した前記撮像画像データ及び前記第1識別情報を対応付けて記憶するデータ記憶部と、前記撮像画像データを利用可能な外部装置を識別する第2識別情報と、前記第2識別情報に対応した前記外部装置が撮像画像データを取得可能な前記頭部装着型表示装置の前記第1識別情報とを対応付けて記憶する識別情報記憶部と、前記第2通信部により前記第2識別情報を受信した場合に、前記識別情報記憶部に、受信した前記第2識別情報に一致する前記第2識別情報が記憶されているか否かを判定し、一致する前記第2識別情報が前記識別情報記憶部に記憶されている場合に、一致する前記第2識別情報に対応付けられた前記第1識別情報の前記撮像画像データを、前記第2識別情報を受信した前記外部装置に送信させる第2制御部と、を備える。
この構成によれば、撮像画像データの外部への流出をより効果的に防止して、セキュリティー性を確保することができる。
上記課題を解決するため、本発明は、使用者の頭部に装着される頭部装着型表示装置の制御方法であって、実行順序が予め定められた複数の動作ステップを含む動作フローが定義された制御データを実行するステップと、実行する前記動作ステップに含まれる撮像部の撮像を許可するか否かの設定に従って、前記撮像部を制御するステップとを有する。
この構成によれば、制御部が制御データを実行する場合に、動作ステップごとの撮像画像データの利用の可否を制御することができる。従って、動作ステップごとに撮像画像データの利用の可否を制御して、セキュリティー性の確保と使用者の利便性の向上とを両立させることができる。
システム構成図。 情報管理テーブルを示す図。 HMDの外観構成を示す図。 HMDの光学系の構成を示す要部平面図。 画像表示部の構成を示す斜視図。 HMDのブロック図。 制御装置の機能ブロック図。 HMDの第1の動作を示すフローチャート。 HMDの第2の動作を示すフローチャート。 サーバー装置の動作を示すフローチャート。 HMDの第3の動作を示すフローチャート。 PCの構成図。 制御部の動作を示すフローチャート。 PCの表示例を示す図。 PCの表示例を示す図。
図1は、情報処理システム1のシステム構成図である。
情報処理システム1は、システム構成として、複数の頭部装着型表示装置(以下、HMD(Head Mountte Display)と表記する)100と、サーバー装置5とを通信ネットワーク7を介して接続した構成を備える。図1には、HMD100Aと、HMD100Bとの2台のHMD100を示すが、HMD100の台数は2台に限定されず、任意である。また、以下では、HMD100AとHMD100Bとを区別する必要がない場合、HMD100と表記する。
通信ネットワーク7は、公衆回線網、専用線、携帯電話回線を含む無線通信回線、及びこれらの回線のバックボーンの通信回線等、各種の通信回線又はその組合せで実現され、その具体的構成は限定されない。通信ネットワーク7は、遠隔地を接続できる広域通信回線網であってもよいし、特定の施設や建物内に敷設されたLAN(Local Area Network)であってもよい。また、通信ネットワーク7は、上記各種通信回線を接続するサーバー装置、ゲートウェイ装置、ルーター装置等のネットワーク機器を含んでもよい。
HMD100は、無線アクセスポイント9を介して他のHMD100やサーバー装置5とデータ通信を行う。無線アクセスポイント9は、アクセスポイントやルーター等の通信装置であり、HMD100AとHMD100Bとの間のデータ通信、及びHMD100A、HMD100Bと通信ネットワーク7とのデータ通信を中継する。
サーバー装置5は、通信部51と、記憶部53と、制御部55とを備える。サーバー装置5は、本発明の「情報処理装置」に相当する。通信部51は、本発明の「第2通信部」に相当する。また、記憶部53は、本発明の「データ記憶部」及び「識別情報記憶部」に相当する。また、制御部55は、本発明の「第2制御部」に相当する。
通信部51は、通信ネットワーク7に接続され、通信ネットワーク7に接続されたHMD100Aや、HMD100B、他の装置とデータ通信を行う。
記憶部53は、例えば、ハードディスク装置や半導体記憶装置等の補助記憶装置により構成される。記憶部53は、制御部55が実行する制御プログラムや、HMD100から受信した撮像画像データを記憶する。また、記憶部53は、情報管理テーブル57を記憶する。
図2は、情報管理テーブル57の構成を示す図である。
情報管理テーブル57は、HMD識別情報、使用者IDやパスワードといった使用者識別情報、及び画像識別情報を端末識別情報に対応付けて登録したテーブルである。
HMD識別情報は、HMD100の識別情報である。HMD100A及びHMD100Bには異なるHMD識別情報が付与され、HMD識別情報に基づいてHMD100AとHMD100Bとを識別することができる。例えば、HMD識別情報として、MAC(Media Access Control)アドレスやIP(Internet Protocol)アドレスを用いることができる。また、HMD識別情報は、情報処理システム1のシステム管理者が独自に設定してもよい。
使用者識別情報に含まれる使用者IDやパスワードは、情報処理システム1を使用する使用者の各々を識別する情報である。また、1台のHMD100を複数の使用者が使用する場合、HMD100を利用する使用者の各々を識別する必要がある。このため、情報管理テーブル57には、使用者識別情報がHMD識別情報に対応付けて登録される。
画像識別情報は、HMD100から受信した撮像画像データの識別情報である。画像識別情報は、撮像画像データをサーバー装置5に送信する前に、HMD100が付与してもよいし、サーバー装置5で付与してもよい。また、撮像画像データの送信者や、撮像画像データを受信したHMD100を特定するため、報管理テーブル37には、画像識別情報が、HMD識別情報や使用者識別情報に対応付けて登録される。
端末識別情報は、サーバー装置5から撮像画像データのダウンロードを許可された端末装置(外部装置)を識別する識別情報である。端末識別情報は、本発明の「第2識別情報」に相当する。端末識別情報には、MAC(Media Access Control)アドレスやIP(Internet Protocol)アドレスを用いてもよいし、情報処理システム1のシステム管理者が独自に設定してもよい。
また、本実施形態では、HMD100ごとに、撮像画像データのダウンロードを許可された端末装置が設定される場合について説明する。このため、情報管理テーブル57には、端末識別情報がHMD識別情報に対応付けて登録される。端末識別情報は、例えば、作業者を管理する管理者が使用する端末装置の識別情報である。
また、管理者の識別情報(管理者識別情報)を、管理者の部下に相当する使用者の使用者情報に対応付けて情報管理テーブル57に登録してもよい。管理者識別情報には、管理者のIDやパスワードが用いられる。この構成の場合、管理者は、IDやパスワードを入力してサーバー装置5にログインし、自身が管理する作業者がサーバー装置5にアップロードした撮像画像データをサーバー装置5からダウンロードすることができる。
制御部55は、ハードウェアとして、CPUや、ROM、RAM等(いずれも図示略)を備える。RAMは、CPUのワークエリアとして使用される。CPUは、ROMや記憶部(図示略)から読み出した制御プログラムをRAMに展開し、展開した制御プログラムを実行してサーバー装置5の各部を制御する。また、制御部55は、一つのCPU(又は半導体チップ)を備える構成であってもよいし、複数のCPU(又は半導体チップ)を備える構成であってもよい。
図3は、HMD100の外観構成を示す図である。HMD100AとHMD100Bとはほぼ同一の構成を備えるため、以下ではHMD100の構成として説明する。HMD100は、制御装置10と画像表示部20とを備える表示装置である。
制御装置10は、使用者の操作を受け付ける操作部を備え、使用者がHMD100を操作するコントローラーとして機能する。制御装置10は、使用者の操作を受け付けて、受け付けた操作に応じて画像表示部20を制御する。画像表示部20は、使用者の頭部に装着され、使用者に虚像を視認させる。使用者とは、画像表示部20を頭部に装着した者をいう。
制御装置10は、図3に示すように平たい箱形のケース10A(筐体又は本体ともいえる)を備える。ケース10Aには、操作ボタン11、LEDインジケーター12、トラックパッド14、上下キー15、切替スイッチ16及び電源スイッチ18の各部を備える。操作ボタン11、上下キー15、切替スイッチ16及び電源スイッチ18を総称して操作子13(図6)という。使用者は、操作子13やトラックパッド14を操作することによりHMD100を操作できる。
操作ボタン11は、メニューキー、ホームキー、戻るキー等を含み、特に、これらのキーやスイッチのうち押圧操作により変位するものを含む。LEDインジケーター12は、HMD100の動作状態に対応して点灯し、又は点滅する。
トラックパッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。トラックパッド14の操作面における操作の検出方式は、静電式、圧力検出式、光学式等、種々の検出方式を採用できる。
上下キー15は、右イヤホン32及び左イヤホン34から出力される音量の増減の指示入力や、画像表示部20の表示の明るさの増減の指示入力に利用される。切替スイッチ16は、上下キー15の操作に対応する入力を切り替えるスイッチである。電源スイッチ18は、HMD100の電源のオン/オフを切り替えるスイッチであり、例えばスライドスイッチにより構成される。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示ユニット22、左表示ユニット24、右導光板26及び左導光板28を備える。
右保持部21及び左保持部23は、それぞれ、前部フレーム27の両端部から後方に延び、眼鏡のテンプル(つる)のように、使用者の頭部に画像表示部20を保持する。ここで、前部フレーム27の両端部のうち、画像表示部20の装着状態において使用者の右側に位置する端部を端部ERとし、使用者の左側に位置する端部を端部ELとする。右保持部21は、前部フレーム27の端部ERから、画像表示部20の装着状態において使用者の右側頭部に対応する位置まで延伸して設けられる。左保持部23は、端部ELから、画像表示部20の装着状態において使用者の左側頭部に対応する位置まで延伸して設けられる。
右導光板26及び左導光板28は、前部フレーム27に設けられる。右導光板26は、画像表示部20の装着状態において使用者の右眼の眼前に位置し、右眼に画像を視認させる。左導光板28は、画像表示部20の装着状態において使用者の左眼の眼前に位置し、左眼に画像を視認させる。
前部フレーム27は、右導光板26の一端と左導光板28の一端とを互いに連結した形状を有し、この連結位置は、使用者が画像表示部20を装着する装着状態で、使用者の眉間に対応する。前部フレーム27は、右導光板26と左導光板28との連結位置において、画像表示部20の装着状態で使用者の鼻に当接する鼻当て部を設けてもよい。この場合、鼻当て部と、右保持部21及び左保持部23とにより画像表示部20を使用者の頭部に保持できる。また、右保持部21及び左保持部23に、画像表示部20の装着状態において使用者の後頭部に接するベルト(図示略)を連結してもよく、この場合、ベルトによって画像表示部20を使用者の頭部に保持できる。
右表示ユニット22は、右導光板26による画像の表示を実現する。右表示ユニット22は、右保持部21に設けられ、装着状態において使用者の右側頭部の近傍に位置する。左表示ユニット24は、左導光板28による画像の表示を実現する。左表示ユニット24は、左保持部23に設けられ、装着状態において使用者の左側頭部の近傍に位置する。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部であり、例えばプリズムによって構成される。右導光板26及び左導光板28は、右表示ユニット22及び左表示ユニット24が出力する画像光を使用者の眼に導く。
右導光板26及び左導光板28の表面には、調光板(図示略)を設けてもよい。調光板は、光の波長域により透過率が異なる薄板上の光学素子であり、いわゆる波長フィルターとして機能する。調光板は、例えば、使用者の眼の側と反対の側である前部フレーム27の表側を覆うように配置される。この調光板の光学特性を適宜選択することにより、可視光、赤外光及び紫外光等の任意の波長域の光の透過率を調整することができ、外部から右導光板26及び左導光板28に入射し、右導光板26及び左導光板28を透過する外光の光量を調整できる。
画像表示部20は、外光を透過することにより外景を視認させる透過型の表示装置である。画像表示部20は、右表示ユニット22及び左表示ユニット24がそれぞれ生成する画像光を、右導光板26及び左導光板28に導く。右導光板26及び左導光板28に導かれた画像光は使用者の右眼と左眼に入射され、使用者に虚像を視認させる。これにより、画像表示部20は画像を表示する。画像表示部20を頭部に装着した使用者の視野範囲FVにおいて、画像表示部20が画像を表示可能な領域を表示領域という。
使用者の前方から、右導光板26及び左導光板28を透過して外光が使用者の眼に入射する場合、使用者の眼には、虚像を構成する画像光及び外光が入射されることとなり、虚像の視認性が外光の強さに影響される。このため、例えば前部フレーム27に調光板を装着し、調光板の光学特性を適宜選択又は調整することによって、虚像の視認のしやすさを調整できる。典型的な例では、HMD100を装着した使用者が少なくとも外の景色を視認できる程度の光透過性を有する調光板を用いることができる。また、調光板を用いると、右導光板26及び左導光板28を保護し、右導光板26及び左導光板28の損傷や汚れの付着等を抑制する効果が期待できる。調光板は、前部フレーム27、又は、右導光板26及び左導光板28のそれぞれに対して着脱可能に構成してもよく、複数種類の調光板を交換して装着可能としてもよい。また、調光板を設けない構成の画像表示部20としてもよい。
画像表示部20の前部フレーム27には、カメラ60が配設される。カメラ60は、本発明の「撮像部」に相当する。カメラ60の構成及び配置は、使用者が画像表示部20を装着した状態で視認する外景を撮像するように決められる。外景とは、画像表示部20を頭部に装着した使用者の視線方向の外部の景色をいう。例えば、カメラは、前部フレーム27の前面において、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図3に示す例では、カメラ60は、前部フレーム27の端部ER側に配置され、指示体として使用者の身体の一部や身体に取り付けられた物体を検出する検出部として機能する。
カメラ60は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラである。本実施形態では、カメラ60は単眼カメラであるが、ステレオカメラで構成してもよい。カメラ60は、HMD100の表側方向、換言すれば、HMD100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮像する。別の表現では、カメラ60は、使用者の視界と重なる範囲又は方向を撮像し、使用者が注視する方向を撮像する。カメラ60の画角の方向及び広さは適宜設定可能である。本実施形態では、後述するように、カメラ60の画角が、使用者が右導光板26及び左導光板28を通して視認する外界を含む。より好ましくは、カメラ60の画角は、右導光板26及び左導光板28を透過して視認可能な使用者の視界の全体を撮像できるように設定される。
カメラ60は、制御部150が備える撮像制御部153(図7)の制御に従って撮像を実行する。メインプロセッサー140は、電源スイッチ18がオンされ、電源部130の電源供給を受けて起動すると、電源部130にカメラ60への電源供給を開始させ、カメラ60の電源をオンさせる。撮像制御部153は、カメラ60の電源がオンすると、一定時間ごとにカメラ60に撮像を実行させて撮像画像データを生成させる。撮像画像データは、メモリー121(図6参照)に書き込まれ、一時的に記憶される。
HMD100は、予め設定された測定方向に位置する測定対象物までの距離を検出する距離センサー(図示略)を備えてもよい。距離センサーは、例えば、前部フレーム27において右導光板26と左導光板28との連結部分に配置できる。この場合、画像表示部20の装着状態において、距離センサーの位置は、水平方向では使用者の両眼のほぼ中間であり、鉛直方向では使用者の両眼より上である。距離センサーの測定方向は、例えば、前部フレーム27の表側方向とすることができ、言い換えればカメラ60の撮像方向と重複する方向である。距離センサーは、例えば、LEDやレーザーダイオード等の光源と、光源が発する光が測定対象物に反射する反射光を受光する受光部とを有する構成とすることができる。距離センサーは、制御部150の制御に従い、三角測距処理や時間差に基づく測距処理を実行すればよい。また、距離センサーは、超音波を発する音源と、測定対象物で反射する超音波を受信する検出部とを備える構成としてもよい。この場合、距離センサーは、制御部150の制御に従い、超音波の反射までの時間差に基づき測距処理を実行すればよい。
図4は、画像表示部20が備える光学系の構成を示す要部平面図である。図4には説明のため使用者の左眼LE及び右眼REを図示する。
図4に示すように、右表示ユニット22及び左表示ユニット24は、左右対称に構成される。右表示ユニット22は、使用者の右眼REに画像を視認させる構成として、画像光を発するOLED(Organic Light Emitting Diode)ユニット221と、OLEDユニット221が発する画像光Lを導くレンズ群等を備えた右光学系251とを備える。画像光Lは、右光学系251により右導光板26に導かれる。
OLEDユニット221は、OLEDパネル223と、OLEDパネル223を駆動するOLED駆動回路225とを有する。OLEDパネル223は、有機エレクトロルミネッセンスにより発光してR(赤)、G(緑)、B(青)の色光をそれぞれ発する発光素子を、マトリクス状に配置して構成される自発光型の表示パネルである。OLEDパネル223は、R、G、Bの素子を1個ずつ含む単位を1画素として、複数の画素を備え、マトリクス状に配置される画素により画像を形成する。OLED駆動回路225は、制御部150(図7)の制御に従って、OLEDパネル223が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル223の発光素子を発光させる。OLED駆動回路225は、OLEDパネル223の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路225は、例えばOLEDパネル223を駆動する半導体デバイスで構成され、OLEDパネル223の裏面に固定される基板(図示略)に実装されてもよい。この基板には温度センサー217が実装される。
なお、OLEDパネル223は、白色に発光する発光素子をマトリクス状に配置し、R、G、Bの各色に対応するカラーフィルターを重ねて配置する構成であってもよい。また、R、G、Bの色光をそれぞれ放射する発光素子に加え、W(白)の光を発する発光素子を備えるWRGB構成のOLEDパネル223を用いてもよい。
右光学系251は、OLEDパネル223から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、右導光板26に入射する。右導光板26の内部において光を導く光路には、画像光Lを反射する複数の反射面が形成される。画像光Lは、右導光板26の内部で複数回の反射を経て右眼RE側に導かれる。右導光板26には、右眼REの眼前に位置するハーフミラー261(反射面)が形成される。画像光Lは、ハーフミラー261で反射して右眼REに向けて右導光板26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
また、左表示ユニット24は、使用者の左眼LEに画像を視認させる構成として、画像光を発するOLEDユニット241と、OLEDユニット241が発する画像光Lを導くレンズ群等を備えた左光学系252とを備える。画像光Lは、左光学系252により左導光板28に導かれる。
OLEDユニット241は、OLEDパネル243と、OLEDパネル243を駆動するOLED駆動回路245とを有する。OLEDパネル243は、OLEDパネル223と同様に構成される自発光型の表示パネルである。OLED駆動回路245は、制御部150(図7)の制御に従って、OLEDパネル243が備える発光素子の選択及び発光素子への通電を実行して、OLEDパネル243の発光素子を発光させる。OLED駆動回路245は、OLEDパネル243の裏面すなわち発光面の裏側に、ボンディング等により固定される。OLED駆動回路245は、例えばOLEDパネル243を駆動する半導体デバイスで構成され、OLEDパネル243の裏面に固定される基板(図示略)に実装されてもよい。この基板には、温度センサー239が実装される。
左光学系252は、OLEDパネル243から射出された画像光Lを並行状態の光束にするコリメートレンズを有する。コリメートレンズにより並行状態の光束にされた画像光Lは、左導光板28に入射する。左導光板28は、画像光Lを反射する複数の反射面が形成された光学素子であり、例えばプリズムである。画像光Lは、左導光板28の内部で複数回の反射を経て左眼LE側に導かれる。左導光板28には、左眼LEの眼前に位置するハーフミラー281(反射面)が形成される。画像光Lは、ハーフミラー281で反射して左眼LEに向けて左導光板28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
この構成によれば、HMD100は、シースルー型の表示装置として機能する。すなわち、使用者の右眼REには、ハーフミラー261で反射した画像光Lと、右導光板26を透過した外光OLとが入射する。また、左眼LEには、ハーフミラー281で反射した画像光Lと、ハーフミラー281を透過した外光OLとが入射する。このように、HMD100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させる。使用者にとっては、右導光板26及び左導光板28を透かして外景が見え、この外景に重ねて、又は外景の周辺に画像光Lによる画像が視認可能に表示される。ハーフミラー261、281は、右表示ユニット22及び左表示ユニット24がそれぞれ出力する画像光を反射して画像を取り出す画像取り出し部であり、表示部ということができる。
なお、左光学系252と左導光板28とを総称して「左導光部」とも呼び、右光学系251と右導光板26とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
図3に戻り、制御装置10及び画像表示部20は、接続ケーブル40により接続される。接続ケーブル40は、ケース10Aの下部に設けられるコネクター(図示略)に着脱可能に接続され、左保持部23の先端から、画像表示部20の内部に設けられる各種回路に接続する。接続ケーブル40は、デジタルデータを伝送するメタルケーブル又は光ファイバーケーブルを有し、アナログ信号を伝送するメタルケーブルを有していてもよい。接続ケーブル40の途中には、コネクター46が設けられる。コネクター46は、ステレオミニプラグを接続するジャックであり、コネクター46及び制御装置10は、例えばアナログ音声信号を伝送するラインで接続される。図3に示す構成例では、ステレオヘッドホンを構成する右イヤホン32と左イヤホン34、及びマイク63を有するヘッドセット30が、コネクター46に接続される。
制御装置10と画像表示部20とを無線接続してもよい。例えば、Bluetooth(登録商標)、無線LAN(Wi−Fi(登録商標)を含む)等の規格に準拠した無線通信により、制御装置10と画像表示部20とが制御信号やデータを相互に送受信する構成としてもよい。
マイク63は、例えば図3に示すように、マイク63の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を音声インターフェイス180(図6)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
図5は、画像表示部20の構成を示す斜視図であり、画像表示部20を使用者の頭部側から見た要部構成を示す。この図5は、画像表示部20の使用者の頭部に接する側、言い換えれば使用者の右眼RE及び左眼LEに見える側である。別の言い方をすれば、右導光板26及び左導光板28の裏側が見えている。
図5では、使用者の右眼REに画像光を照射するハーフミラー261、及び左眼LEに画像光を照射するハーフミラー281が、略四角形の領域として見える。また、ハーフミラー261、281を含む右導光板26及び左導光板28の全体が、上述したように外光を透過する。このため、使用者には、右導光板26及び左導光板28の全体を透過して外景が視認され、ハーフミラー261、281の位置に矩形の表示画像が視認される。
カメラ60は、画像表示部20において右側の端部に配置され、使用者の両眼が向く方向、すなわち使用者にとっての前方を撮像する。カメラ60の光軸は、右眼RE及び左眼LEの視線方向を含む方向とされる。使用者がHMD100を装着した状態で視認できる外景は、無限遠とは限らない。例えば、使用者が両眼で、使用者の前方に位置する対象物を注視する場合、使用者から対象物までの距離は、30cm〜10m程度であることが多く、1m〜4m程度であることがより多い。そこで、HMD100について、通常使用時における使用者から対象物までの距離の上限、及び下限の目安を定めてもよい。この目安は調査や実験により求めてもよいし、使用者が設定してもよい。カメラ60の光軸及び画角は、通常使用時における対象物までの距離が、設定された上限の目安に相当する場合、及び下限の目安に相当する場合に、この対象物が画角に含まれるように設定されることが好ましい。
一般に、人間の視野角は水平方向におよそ200度、垂直方向におよそ125度とされ、そのうち情報受容能力に優れる有効視野は水平方向に30度、垂直方向に20度程度である。さらに、人間が注視する注視点が迅速に安定して見える安定注視野は、水平方向に60〜90度、垂直方向に45度〜70度程度とされている。注視点が使用者の前方に位置する対象物であるとき、使用者の視野において、右眼RE及び左眼LEのそれぞれの視線を中心として水平方向に30度、垂直方向に20度程度が有効視野である。また、水平方向に60〜90度、垂直方向に45度〜70度程度が安定注視野であり、水平方向に約200度、垂直方向に約125度が視野角となる。さらに、使用者が右導光板26及び左導光板28を透過して視認する実際の視野を、実視野(FOV:Field Of View)と呼ぶことができる。図3及び図4に示す本実施形態の構成で、実視野は、右導光板26及び左導光板28を透過して使用者が視認する実際の視野に相当する。実視野は、視野角及び安定注視野より狭いが、有効視野より広い。
カメラ60は、画像表示部20が表示する画像と共に視認可能な外景を含む範囲を撮像する。カメラ60の画角は、使用者の視野よりも広い範囲を撮像可能であることが好ましく、具体的には、画角が、少なくとも使用者の有効視野よりも広いことが好ましい。また、画角が、使用者の実視野よりも広いことがより好ましい。さらに好ましくは、画角が、使用者の安定注視野よりも広く、最も好ましくは、画角が使用者の両眼の視野角よりも広いことがより好ましい。
カメラ60が、撮像レンズとして、いわゆる広角レンズを備え、広い画角を撮像できる構成としてもよい。広角レンズには、超広角レンズ、準広角レンズと呼ばれるレンズを含んでもよいし、単焦点レンズであってもズームレンズであってもよく、複数のレンズからなるレンズ群をカメラ60が備える構成であってもよい。
図6は、HMD100を構成する各部の構成を示すブロック図である。
制御装置10は、プログラムを実行してHMD100を制御するメインプロセッサー140を備える。メインプロセッサー140には、メモリー121や不揮発性記憶部123が接続される。また、メインプロセッサー140には、センサー類として、6軸センサー111、磁気センサー113が接続される。また、メインプロセッサー140には、GPS受信部115、通信部117、音声コーデック182、外部コネクター184、外部メモリーインターフェイス186、USBコネクター188、センサーハブ192及びFPGA194が接続される。これらは外部とのインターフェイスとして機能する。また、メインプロセッサー140には、LEDインジケーター12や、LED表示部17、バイブレーター19、操作部110、電源部130が接続される。
メインプロセッサー140は、制御装置10に内蔵されたコントローラー基板120に実装される。コントローラー基板120には、メインプロセッサー140に加えて、メモリー121、不揮発性記憶部123、6軸センサー111、磁気センサー113、GPS受信部115、通信部117、音声コーデック182等がさらに実装される。また、本実施形態は、外部コネクター184、外部メモリーインターフェイス186、USBコネクター188、センサーハブ192、FPGA194及びインターフェイス196がコントローラー基板120に実装される。
メモリー121は、メインプロセッサー140が制御プログラムを実行する場合に、実行される制御プログラム、及び処理されるデータを一時的に記憶するワークエリアを構成する。メモリー121は、本発明の「画像記憶部」に相当する。不揮発性記憶部123は、フラッシュメモリーやeMMC(embedded Multi Media Card)で構成される。不揮発性記憶部123は、メインプロセッサー140が実行するプログラムや、メインプロセッサー140がプログラムを実行して処理する各種データを記憶する。
図6には一つのメインプロセッサー140により制御装置10の機能を実現する構成を示すが、複数のプロセッサー又は半導体チップにより制御装置10の機能を実現するようにしてもよい。例えば、コントローラー基板120に、SoC(System-on-a-Chip)やMCU(Micro Control Unit)、FPGA(Field-Programmable Gate Array)等の副処理装置(co-processor)をさらに搭載してもよい。また、制御装置10は、メインプロセッサー140及び副処理装置の双方を協働させるか、あるいは双方のうちの一方を選択的に用いて各種の制御を行ってもよい。
6軸センサー111は、3軸加速度センサー及び3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー111は、上記のセンサーがモジュール化されたIMU(Inertial Measurement Unit)を採用してもよい。磁気センサー113は、例えば、3軸の地磁気センサーである。
6軸センサー111及び磁気センサー113は、検出値を、予め指定されたサンプリング周期に従ってメインプロセッサー140に出力する。また、6軸センサー111及び磁気センサー113は、メインプロセッサー140の要求に応じて、メインプロセッサー140により指定されたタイミングで、検出値をメインプロセッサー140に出力する。
GPS受信部115は、図示しないGPSアンテナを備え、GPS衛星から送信されるGPS信号を受信する。GPS受信部115は、受信したGPS信号をメインプロセッサー140に出力する。また、GPS受信部115は、受信したGPS信号の信号強度を計測し、メインプロセッサー140に出力する。信号強度には、例えば、受信信号強度(RSSI:Received Signal Strength Indication)、電界強度、磁界強度、信号雑音比(SNR: Signal to Noise ratio)等の情報を用いることができる。
通信部117は、外部の機器との間で無線通信を実行する。通信部117は、アンテナ、RF回路、ベースバンド回路、通信制御回路等を備えて構成され、又はこれらが統合されたデバイスで構成される。通信部117は、例えば、Bluetooth、無線LAN(Wi−Fiを含む)等の規格に準拠した無線通信を行う。通信部117は、本発明の「第1通信部」に相当する。
音声インターフェイス180は、音声信号を入出力するインターフェイスである。本実施形態では、音声インターフェイス180は、接続ケーブル40に設けられたコネクター46(図3)を含む。コネクター46はヘッドセット30に接続される。音声インターフェイス180が出力する音声信号は右イヤホン32、及び左イヤホン34に入力され、これにより右イヤホン32及び左イヤホン34が音声を出力する。また、ヘッドセット30が備えるマイク63は、音声を集音して、音声信号を音声インターフェイス180に出力する。マイク63から音声インターフェイス180に入力される音声信号は、外部コネクター184に入力される。
音声コーデック182は、音声インターフェイス180に接続され、音声インターフェイス180を介して入出力される音声信号のエンコード及びデコードを行う。音声コーデック182はアナログ音声信号からデジタル音声データへの変換を行うA/Dコンバーター、及びその逆の変換を行うD/Aコンバーターを備えてもよい。例えば、本実施形態のHMD100は、音声を右イヤホン32及び左イヤホン34により出力し、マイク63で集音する。音声コーデック182は、メインプロセッサー140が出力するデジタル音声データをアナログ音声信号に変換して、音声インターフェイス180を介して出力する。また、音声コーデック182は、音声インターフェイス180に入力されるアナログ音声信号をデジタル音声データに変換してメインプロセッサー140に出力する。
外部コネクター184は、メインプロセッサー140と通信する外部の装置を接続するコネクターである。外部コネクター184は、例えば、外部の装置をメインプロセッサー140に接続して、メインプロセッサー140が実行するプログラムのデバッグや、HMD100の動作のログの収集を行う場合に、この外部の装置を接続するインターフェイスである。
外部メモリーインターフェイス186は、可搬型のメモリーデバイスを接続可能なインターフェイスであり、例えば、カード型記録媒体を装着してデータの読取が可能なメモリーカードスロットとインターフェイス回路とを含む。この場合のカード型記録媒体のサイズ、形状、規格は制限されず、適宜に変更可能である。
USB(Universal Serial Bus)コネクター188は、USB規格に準拠したコネクターとインターフェイス回路とを備える。USBコネクター188は、USBメモリーデバイス、スマートフォン、コンピューター等を接続できる。USBコネクター188のサイズや形状、適合するUSB規格のバージョンは適宜に選択、変更可能である。
センサーハブ192及びFPGA194は、インターフェイス(I/F)196を介して、画像表示部20に接続される。センサーハブ192は、画像表示部20が備える各種センサーの検出値を取得してメインプロセッサー140に出力する。また、FPGA194は、メインプロセッサー140と画像表示部20の各部との間で送受信するデータの処理、及びインターフェイス196を介した伝送を実行する。
LEDインジケーター12は、HMD100の動作状態に対応して点灯し、又は点滅する。LED表示部17は、メインプロセッサー140の制御に従って、LEDインジケーター12の点灯及び消灯を制御する。また、LED表示部17は、トラックパッド14の直下に配置されるLED(図示略)、及びこのLEDを点灯させる駆動回路を含む構成であってもよい。この場合、LED表示部17は、メインプロセッサー140の制御に従って、LEDを点灯、点滅、消灯させる。
また、LEDインジケーター12は、カメラ60の撮像画像データを記憶部160に記憶させる場合や、サーバー装置3にアップロードする場合に点灯又は点滅し、撮像画像データが保存されたことを報知する。
バイブレーター19は、モーター、偏心した回転子(いずれも図示略)を備え、その他の必要な構成を備えてもよい。バイブレーター19は、メインプロセッサー140の制御に従って上記モーターを回転させることにより振動を発生する。HMD100は、例えば、操作部110に対する操作を検出した場合や、カメラ60の撮像画像データを記憶部160に記憶する場合、サーバー装置3にアップロードする場合等に、所定の振動パターンでバイブレーター19により振動を発生する。
操作部110は、操作子13及びトラックパッド14を備える。操作子13には、操作ボタン11、上下キー15、切替スイッチ16及び電源スイッチ18が含まれる。操作部110は、操作子13やトラックパッド14が操作を受けた場合に、操作を受けた操作子13やトラックパッド14の識別情報と、受けた操作内容を示す情報とを含む操作信号を制御部150に出力する。
また、本実施形態では、操作子13に含まれるいずれかのキーは、カメラ60のシャッターボタンの操作が対応付けられている。操作子13のキーが押下された場合、後述する撮像制御部153は、カメラ60に撮像を実行させる。また、本実施形態は、操作子13に含まれるいずれかのキーがシャッターボタンの操作に対応付けられているが、トラックパッド14の操作をシャッターボタンの操作に対応付けてもよい。
制御装置10は、電源部130を備え、電源部130から供給される電力により動作する。電源部130は、充電可能なバッテリー132、及びバッテリー132の残容量の検出及びバッテリー132への充電の制御を行う電源制御回路134を備える。電源制御回路134はメインプロセッサー140に接続され、バッテリー132の残容量の検出値、又は電圧の検出値をメインプロセッサー140に出力する。また、電源部130が供給する電力に基づき、制御装置10から画像表示部20に電力を供給してもよい。また、電源部130から制御装置10の各部及び画像表示部20への電力の供給状態を、メインプロセッサー140が制御可能な構成としてもよい。
画像表示部20の右表示ユニット22及び左表示ユニット24は、それぞれ、制御装置10に接続される。図3に示すように、HMD100では左保持部23に接続ケーブル40が接続され、この接続ケーブル40に繋がる配線が画像表示部20内部に敷設され、右表示ユニット22と左表示ユニット24のそれぞれが制御装置10に接続される。
右表示ユニット22は、表示ユニット基板210を有する。表示ユニット基板210には、インターフェイス196に接続されるインターフェイス(I/F)211、インターフェイス211を介して制御装置10から入力されるデータを受信する受信部(Rx)213、及びEEPROM215が実装される。
インターフェイス211は、受信部213、EEPROM215、温度センサー217、カメラ60、照度センサー65及びLEDインジケーター67を、制御装置10に接続する。
EEPROM(Electrically Erasable Programmable Read−Only Memory)215は、各種のデータをメインプロセッサー140が読み取り可能に記憶する。EEPROM215は、例えば、画像表示部20が備えるOLEDユニット221、241の発光特性や表示特性に関するデータ、右表示ユニット22又は左表示ユニット24が備えるセンサーの特性に関するデータなどを記憶する。具体的には、OLEDユニット221、241のガンマ補正に係るパラメーター、温度センサー217、239の検出値を補償するデータ等を記憶する。これらのデータは、HMD100の工場出荷時の検査によって生成され、EEPROM215に書き込まれ、出荷後はメインプロセッサー140がEEPROM215のデータを利用して処理を行える。
カメラ60は、インターフェイス211を介して入力される信号に従って撮像を実行し、撮像画像データ、又は撮像結果を示す信号を制御装置10に出力する。
照度センサー65は、図3に示すように、前部フレーム27の端部ERに設けられ、画像表示部20を装着する使用者の前方からの外光を受光するよう配置される。照度センサー65は、受光量(受光強度)に対応する検出値を出力する。
LEDインジケーター67は、図3に示すように、前部フレーム27の端部ERにおいてカメラ60の近傍に配置される。LEDインジケーター67は、カメラ60による撮像を実行中に点灯して、撮像中であることを報知する。また、LEDインジケーター67は、カメラ60の撮像画像データを記憶部160に記憶させる場合や、サーバー装置3にアップロードする場合に点灯又は点滅し、撮像画像データが保存されたことを報知する。
温度センサー217は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー217は、OLEDパネル223(図4)の裏面側に実装される。温度センサー217は、例えばOLED駆動回路225と同一の基板に実装されてもよい。この構成により、温度センサー217は、主としてOLEDパネル223の温度を検出する。
受信部213は、インターフェイス211を介してメインプロセッサー140が送信するデータを受信する。受信部213は、OLEDユニット221で表示する画像の画像データを受信した場合に、受信した画像データを、OLED駆動回路225(図4)に出力する。
左表示ユニット24は、表示ユニット基板230を有する。表示ユニット基板230には、インターフェイス196に接続されるインターフェイス(I/F)231、インターフェイス231を介して制御装置10から入力されるデータを受信する受信部(Rx)233が実装される。また、表示ユニット基板210には、6軸センサー235及び磁気センサー237が実装される。インターフェイス231は、受信部233、6軸センサー235、磁気センサー237、及び温度センサー239を制御装置10に接続する。
6軸センサー235は、3軸加速度センサー及び3軸ジャイロ(角速度)センサーを備えるモーションセンサー(慣性センサー)である。6軸センサー235は、上記のセンサーがモジュール化されたIMUを採用してもよい。磁気センサー237は、例えば、3軸の地磁気センサーである。
温度センサー239は、温度を検出し、検出温度に対応する電圧値又は抵抗値を、検出値として出力する。温度センサー239は、OLEDパネル243(図4)の裏面側に実装される。温度センサー239は、例えばOLED駆動回路245と同一の基板に実装されてもよい。この構成により、温度センサー239は、主としてOLEDパネル243の温度を検出する。また、温度センサー239が、OLEDパネル243又はOLED駆動回路245に内蔵されてもよい。また、上記基板は半導体基板であってもよい。具体的には、OLEDパネル243が、Si−OLEDとして、OLED駆動回路245等とともに統合半導体チップ上の集積回路として実装される場合、この半導体チップに温度センサー239を実装してもよい。
右表示ユニット22が備えるカメラ60、照度センサー65、温度センサー217、及び左表示ユニット24が備える6軸センサー235、磁気センサー237、温度センサー239は、センサーハブ192に接続される。
センサーハブ192は、メインプロセッサー140の制御に従って各センサーのサンプリング周期の設定及び初期化を行う。センサーハブ192は、各センサーのサンプリング周期に合わせて、各センサーへの通電、制御データの送信、検出値の取得等を実行する。また、センサーハブ192は、予め設定されたタイミングで、右表示ユニット22及び左表示ユニット24が備える各センサーの検出値を、メインプロセッサー140に出力する。センサーハブ192は、各センサーの検出値を、メインプロセッサー140に対する出力のタイミングに合わせて一時的に保持する機能を備えてもよい。また、センサーハブ192は、各センサーの出力値の信号形式、又はデータ形式の相違に対応し、統一されたデータ形式のデータに変換して、メインプロセッサー140に出力する機能を備えてもよい。
また、センサーハブ192は、メインプロセッサー140の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ60が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯又は点滅させる。
図7は、制御装置10の制御系を構成する記憶部160及び制御部150の機能ブロック図である。図7に示す記憶部160は、不揮発性記憶部123(図6)やEEPROM215により構成される論理的な記憶部である。
記憶部160は、アプリケーションプログラム161、工程フローデータ162、コンテンツデータ163、HMD識別情報164及び使用者識別情報165を記憶する。
アプリケーションプログラム161は、OS151上で実行される特定の機能を持つアプリケーションプログラムである。アプリケーションプログラム161は、HMD100が、後述するPC300(図12参照)により作成された工程フローを実行するためのプログラムである。アプリケーションプログラム161は、工程フローの実行用の専用のアプリケーションプログラムであってもよいし、ウェブブラウザー等の汎用的なプログラムであってもよい。アプリケーションプログラム161の具体的な構成は、工程フローデータ162の仕様と対応させて任意に選択可能である。
工程フローデータ162は、本発明の「制御データ」に相当し、PC300により作成された工程フローのデータである。制御部150は、PC300が作成した出力データ327(図12参照)を取得し、記憶部160に、工程フローデータ162として記憶させる。工程フローデータ162は、HMD100を含む各種機器(例えば、カメラ60を持たない装置)や、種類や仕様が異なるHMD100でも実行可能な汎用的なデータであってもよい。
ここで、工程フロー及び工程フローデータ162について説明する。
工程フローは、複数の作業で構成される業務を表す、いわゆるワークフローである。工程フローは、本発明の「動作フロー」の具体例である。動作フローは、1又は複数の動作ステップを含み、各々の動作ステップの実行順序が定義されたシーケンスである。例えば、表示等の情報の出力、情報の入力、及び、判定等の処理である。動作ステップは動作フローを作成及び編集する際に一つの単位として扱われるほか、特に制限はなく、動作ステップに複数の動作や処理が含まれてもよい。
また、工程フローは、設定された目的を達成するために作業者が行う複数の作業を含み、これら複数の作業を行う間に作業者に対して情報を出力する工程を含む。作業者が行う1つの作業単位、及び、作業者に対する1回の情報出力は、工程フローにおける作業ブロックに相当する。作業ブロックは、本発明の「動作ステップ」に相当する。
また、工程フローデータ162は、作業者に実行させる作業の作業工程を示すデータである。工程フローデータ162には、工程フローに含まれる作業ブロック、作業ブロックの実行順序、各作業ブロックに設定された設定内容を含み、また、その他の情報を含んでもよい。
コンテンツデータ163は、制御部150の制御によって画像表示部20が表示する表示画像や映像を含むコンテンツのデータであり、画像データ又は映像データを含む。また、コンテンツデータ163として、音楽や音声のデータを含んでもよい。
HMD識別情報164は、HMD100を識別する識別情報であり、例えば、HMD100のMACアドレスやIPアドレスを用いることができる。
使用者識別情報165は、HMD100の使用者を識別する使用者により設定された使用者IDやパスワードである。1台のHMD100を複数の使用者により共用する場合、使用者それぞれを識別する必要がある。このため、使用者は、HMD100を使用する際に、操作部110から使用者IDやパスワードを入力する。制御部150は、操作部110は、操作部110により受け付けた使用者IDやパスワードにより使用者認証を行って、ログイン処理を行う。
制御部150は、記憶部160が記憶するデータを利用して各種処理を実行し、HMD100を制御する。制御部150は、本発明の「制御部」及び「第1制御部」に相当する。制御部150は、OS(Operating System)151、画像処理部152、撮像制御部153、入力検出部154、通信制御部155、表示制御部156、情報取得部157、工程フロー実行部158を機能ブロックとして備える。機能ブロックとは、メインプロセッサー140が制御プログラムを実行することで実現される機能をブロックとして便宜的に示したものであり、特定のアプリケーションプログラムやハードウェアを示すものではない。
OS151の機能は、記憶部160が記憶する制御プログラムの機能であり、その他の各部は、OS151上で実行されるアプリケーションプログラムの機能である。
画像処理部152は、例えば、記憶部160からコンテンツデータ163を読み出し、読み出したコンテンツデータ163から垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。画像処理部152は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示略)を利用してクロック信号PCLKを生成する。また、画像処理部152は、コンテンツデータ163に含まれる画像データに対して解像度変換、輝度、彩度の調整、2D/3D変換処理等の種々の画像処理を必要に応じて実行してもよい。
画像処理部152は、画像処理を施した画像データを、画像の表示単位である1フレームごとに記憶部160内のDRAMに展開する。画像データの1フレームが展開されるDRAMの領域を、以下ではフレーム領域という。画像処理部152は、フレーム領域から画像データを読み出し、読み出した画像データを画像表示部20により表示させる。
画像処理部152は、メインプロセッサー140がプログラムを実行して実現される構成のほか、メインプロセッサー140と別のハードウェア(例えば、DSP(Digital Signal Processor))で構成してもよい。
撮像制御部153は、カメラ60を制御する。撮像制御部153は、HMD100の電源がオンの間、一定時間ごとにカメラ60に撮像を実行させて撮像画像データを生成する。また、撮像制御部153は、シャッターボタンの操作が対応付けられた操作子13のキーが操作された場合もカメラ60に撮像を実行させて撮像画像データを生成する。カメラ60が撮像した撮像画像データはメモリー121に書き込まれ、撮像画像データが一時的に保存される。メモリー121は揮発性のメモリーであるため、HMD100の電源がオフされると、メモリー121に書き込まれた撮像画像データは消去される。また、撮像制御部153は、一定時間ごとに生成される撮像画像データをメモリー121に上書きして保存する。すなわち、撮像画像データを書き込み済みのメモリー121の領域に、新しく生成された撮像画像データを上書きする。
また、撮像制御部153は、所定の条件を満たす場合に、メモリー121に書き込まれた撮像画像データを記憶部160に記憶させ、撮像画像データが消去されないようにする。所定の条件は、制御部150が工程フローデータ162を実行する場合であって、工程フローデータ162に含まれる作業ブロックにおいて撮像画像データの利用が許可されている場合である。本実施形態において「利用」とは、撮像画像データの保存を許可し、工程フローデータ162の実行中、又は工程フローデータ162の実行後に撮像画像データを用いた処理を許可することを意味する。撮像制御部153は、撮像画像データの利用が許可された作業ブロックを実行中に撮像された撮像画像データを記憶部160に記憶させる。また、撮像制御部153は、撮像画像データの利用が許可された作業ブロックを実行中に撮像された撮像画像データをメモリー121から読み出し、サーバー装置5にアップロードする。
また、撮像制御部153は、工程フローデータ162の実行中に、撮像画像データの利用が許可されている作業ブロックを実行する場合に、カメラ60に電源を供給して、カメラ60を動作させる状態としてもよい。この場合、撮像制御部153は、一定時間ごとにカメラ60に撮像を実行させて撮像画像データを記憶部160に記憶させる。また、撮像制御部153は、シャッターボタンの操作が対応付けられた操作子13のキーが操作された場合に、カメラ60に撮像を実行させてもよい。
また、撮像制御部153は、撮像画像データの利用が許可されている作業ブロックの実行が終了した場合に、カメラ60への電源の供給を停止して、カメラ60の動作を停止させる状態とする。
入力検出部154は、操作部110から入力される操作データに基づき、作業者による入力を検出する。
通信制御部155は、通信部117を制御してサーバー装置5や、他のHMD100とデータ通信を実行する。
表示制御部156は、画像表示部20を制御して、表示領域に各種画面を表示させる。例えば、表示制御部156は、制御部150がアプリケーションプログラム161を実行する場合に、作業ブロックに相当する各種画面を表示させる。
情報取得部157は、外部コネクター184や、外部メモリーI/F部186、USBコネクター188を介して接続された外部装置からデータ読み取りを実行する。情報取得部157は、例えば、外部メモリーI/F部186に、記憶デバイスが接続されたことを検出した場合、記憶デバイスからデータを読み取り記憶部160に記憶させる。これにより、HMD100は、記憶デバイスに記憶された工程フローデータ162を読み取って利用できる。
工程フロー実行部158は、記憶部160が記憶するアプリケーションプログラム161を実行し、工程フローデータ162に従って工程フローを実行する。工程フローデータ162には、工程フローに含まれる作業ブロック、作業ブロックの実行順序、各作業ブロックに設定された設定内容を少なくとも含む。
各作業ブロックに設定される設定内容には、制御部150が実行する処理が含まれる。制御部150が実行する処理には、画像やテキストを含む画面表示を作業者に対する情報として表示させる処理や、QRコード(登録商標)等の二次元コード(2Dコード)の読み込みが含まれる。また、制御部150が実行する処理には、テキスト入力の受け付け、作業結果がOKかNGかの入力を受け付ける処理が含まれる。また、制御部150が実行する処理には、作業ブロックとして、チェックボックスを利用した選択入力の受け付け、ラジオボタンを利用した選択入力の受け付け等が含まれる。
作業ブロックには、例えば、手順表示ブロック、読込ブロック、入力ブロック、判定ブロック、選択入力ブロック及び終端ブロックが少なくとも含まれる。
手順表示ブロックは、作業手順を示す画面やテキストを画像表示部20により表示領域に表示させるブロックである。作業者は、画像表示部20により表示領域に表示された画面やテキストを参照しながら作業を行う。
読込ブロックは、カメラ60に撮像を実行させて、カメラ60の撮像画像データからQRコード(登録商標)や、バーコード等の二次元コードを読み取るブロックである。
制御部150は、例えば、二次元コードの読み取り枠と、二次元コードが読み取り枠内に納まるように作業者を案内する案内表示とを表示させる。制御部150は、読み取り枠に二次元コードの画像が検出された場合に、検出された二次元コードの画像を記憶部160に記憶させ、二次元コードに含まれるコード情報を解析する。
入力ブロックは、作業者からの入力を操作部110等により受け付けるブロックである。作業者の入力を受け付ける方法は、操作部110を用いる方法に限定されない。例えば、カメラ60の撮像画像データを用いた文字認識処理や、マイク63で集音した音声に対し音声認識処理により、テキストを含む各種入力を検出してもよい。また、外部コネクター184により接続されたバーコードリーダーから、バーコードを読み取った読取データを取得し、取得したデータを、作業者の入力として受け付けてもよい。また、6軸センサー235、111の検出値から求められる作業者の動きを作業者の入力として受け付けてもよい。
判定ブロックは、作業の実行結果を作業者から受け付けるブロックである。作業者は、例えば、手順表示ブロックにおいて表示された作業手順に従って作業を行い、作業結果として、「OK」又は「NG」の作業結果を操作部110等により入力する。制御部150は、操作部110により「OK」の入力を受け付けた場合、肯定判定する。この場合、制御部150は、手順表示ブロックを実行して次の作業内容が表示された画面を表示する等、肯定判定に対応した作業ブロックを実行する。また、制御部150は、操作部110により「NG」の入力を受け付けた場合、否定判定する。この場合、制御部150は、同一の作業内容を再度表示させて、同一の作業を再度実行させる、カメラ60により作業結果を撮像する等の否定判定に対応した作業ブロックを実行する。
選択入力ブロックは、チェックボックスやラジオボタンを利用した選択の入力を受け付けるブロックである。制御部150は、選択入力ブロックを実行する場合に、作業者がチェックボックスやラジオボタンを視認可能なように表示して、チェックボックス又はラジオボタンを選択する操作を受け付ける。制御部150は、選択する操作を受け付けると、受け付けた選択に対応した作業ブロックを実行する。
終端ブロックは、工程フローの終端を示すブロックである。
また、手順表示ブロック、読込ブロック、入力ブロック及び判定ブロックの各作業ブロックには、設定内容として、撮像画像データの利用を許可するか否かを設定した許否情報が含まれる。制御部150は、許否情報が許可に設定された作業ブロックを実行中に、操作部110のシャッターボタンに対応するキーが押下されると、カメラ60により撮像される撮像画像データを記憶部160に記憶させる。また、制御部150は、許否情報が許可に設定された作業ブロックを実行中に、操作部110のシャッターボタンに対応するキーが押下されると、カメラ60により撮像される撮像画像データをサーバー装置5にアップロードする。
撮像画像データを記憶部160に記憶させるか、サーバー装置5にアップロードするかの切り替えは、作業ブロックごとに設定内容として設定することも可能であるし、作業者ごとに設定してもよい。すなわち、撮像画像データをサーバー装置5にアップロードするか、記憶部160に記憶させるかを設定した設定情報を、使用者情報に対応付けて記憶部160に記憶させてもよい。
また、制御部150は、実行中の作業ブロックが許否情報を含まないブロックである場合、又は許否情報が拒否に設定されている場合、カメラ60により撮像される撮像画像データを記憶部160には記憶させない。同様に、制御部150は、実行中の作業ブロックに許否情報が含まれな場合、又は許否情報が拒否に設定されている場合、カメラ60により撮像される撮像画像データをサーバー装置5にアップロードしない。
図8は、制御部150の第1の動作を示すフローチャートである。この第1の動作は、制御部150が、許否情報が許可に設定された作業ブロックを実行する場合に、撮像画像データを記憶部160に記憶させる動作である。
制御部150は、記憶部160から工程フローデータ162を読み込み、工程フローデータ162に含まれる作業ブロックを実行する。具体的には、制御部150は、工程フローデータ162に含まれる実行順序に従って実行する作業ブロックを選択する(ステップS1)。次に、制御部150は、選択した作業ブロックが終端ブロックであるか否かを判定する(ステップS2)。制御部150は、選択した作業ブロックが終端ブロックである場合(ステップS2/YES)、この処理フローを終了させる。また、制御部150は、選択した作業ブロックが終端ブロックではない場合(ステップS2/NO)、選択した作業ブロックに許否情報が含まれるか否かを判定する(ステップS3)。
制御部150は、選択した作業ブロックに許否情報が含まれない場合(ステップS3/NO)、作業ブロックの設定内容に従って処理を実行する(ステップS4)。制御部150が実行する処理には、例えば、作業者に実行させる作業内容や作業手順を示す画面やテキストを画像表示部20により表示させる処理や、カメラ60に撮像を実行させて二次元コードを読み取る処理等が含まれる。
制御部150は、設定内容に従って処理を実行すると、選択した作業ブロックの設定内容に設定された処理が完了したか否かを判定する(ステップS5)。例えば、選択した作業ブロックの設定内容に設定された処理が二次元コードを読み取る処理であった場合、制御部150は、カメラ60の撮像画像データから二次元コードの画像を取得したか否かを判定する。制御部150は、二次元コードの画像を取得することができた場合、作業ブロックの設定内容に設定された処理が完了したと判定する。
制御部150は、作業ブロックの設定内容に設定された処理が完了していない場合(ステップS5/NO)、ステップS4に戻り設定内容に従って処理を継続する。また、制御部150は、作業ブロックの設定内容に設定された処理が完了した場合(ステップS5/YES)、ステップS1に戻り次の作業ブロックを選択する(ステップS1)。
また、制御部150は、ステップS3において許否情報が含まれると判定した場合(ステップS3/YES)、許否情報が“許可”に設定されているか否かを判定する(ステップS6)。制御部150は、許否情報が“許可”に設定されていない、すなわち“拒否”に設定されている場合(ステップS6/NO)、ステップS4に移行して作業ブロックの設定内容に従って処理を実行する。その後、制御部150は、ステップS5で、作業ブロックで設定された処理の実行が完了したか否かを判定する。
また、制御部150は、許否情報が“許可”に設定されている場合(ステップS6/YES)、作業ブロックに設定された設定内容に従って処理を実行する(ステップS7)。制御部150は、処理の実行中、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS8)。シャッターボタンに対応するキーの操作を受け付けていない場合(ステップS8/NO)、制御部150は、作業ブロックの設定内容に設定された処理が完了したか否かを判定する(ステップS11)。制御部150は、作業ブロックの設定内容に設定された処理が完了していない場合(ステップS11/NO)、ステップS8に戻り処理の実行中、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS8)。また、制御部150は、作業ブロックの設定内容に設定された処理が完了した場合(ステップS11/YES)、ステップS1に戻り次の作業ブロックを選択する(ステップS1)。
また、制御部150は、シャッターボタンに対応するキーの操作を受け付けた場合(ステップS8/YES)、カメラ60に撮像を実行させ(ステップS9)、撮像された撮像画像データを記憶部160に記憶させる(ステップS10)。また、制御部150は、撮像画像データを記憶部160に記憶させるときに報知を行う(ステップS11)。本実施形態では、制御部150は、報知としてLEDインジケーター12及び67の少なくとも一方を点灯又は点滅させる。この他に、イヤホン32、34から予め設定された音声を出力して報知を行ってもよいし、バイブレーター19を所定の振動パターンで振動させて報知を行ってもよい。LEDインジケーター12及び67や、イヤホン32、34、バイブレーター19は、本発明の「報知部」に相当する。
制御部150は、報知を行って撮像画像データを記憶部160に記憶させると、作業ブロックの設定内容に設定された処理が完了したか否かを判定する(ステップS12)。制御部150は、作業ブロックの設定内容に設定された処理が完了していない場合(ステップS12/NO)、ステップS8に戻り処理の実行中、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS8)。また、制御部150は、作業ブロックの設定内容に設定された処理が完了した場合(ステップS12/YES)、ステップS1に戻り次の作業ブロックを選択する(ステップS1)。
図9は、制御部150の第2の動作を示すフローチャートである。この第2の動作は、許否情報が許可に設定された作業ブロックを実行する場合に、撮像画像データをサーバー装置5にアップロードする動作である。なお、図9において、ステップS21〜S27までの動作は、図8で説明した第1の動作と同一であるため説明を省略する。
制御部150は、許否情報が“許可”に設定されている場合(ステップS26/YES)、作業ブロックに設定された設定内容に従って処理を実行し(ステップS27)。処理の実行中に、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS28)。制御部150は、シャッターボタンに対応するキーの操作を受け付けていない場合(ステップS28/NO)、ステップS32に移行して作業ブロックの設定内容に設定された処理が完了したか否かを判定する(ステップS32)。制御部150は、処理が完了した場合(ステップS32/YES)、ステップS21に移行して作業ブロックを選択する。
制御部150は、シャッターボタンに対応するキーの操作を受け付けた場合(ステップS28/YES)、カメラ60に撮像を実行させ(ステップS29)、撮像された撮像画像データをメモリー121に書き込み一時的に記憶させる。また、制御部150は、撮像画像データを識別する画像識別情報を生成し、生成した撮像画像データを撮像画像データに対応付ける。画像識別情報は、例えば、HMD100がサーバー装置5にアップロードした撮像画像データの各々に対応付けられたシリアル番号等が用いられる。
次に、制御部150は、記憶部160からログイン中の作業者の作業者情報と、HMD識別情報とを取得する(ステップS30)。記憶部160から取得する作業者情報は、使用者ID及びパスワードのいずれか少なくとも一方であればよい。次に、制御部150は、メモリー121に一時的に記憶させた撮像画像データに、画像識別情報、作業者情報及びHMD識別情報を付加してサーバー装置5にアップロードする(ステップS31)。作業者情報、使用者ID及びパスワードは、本発明の「制限情報」に相当する。また、HMD識別情報は、本発明の「第1識別情報」に相当する。
また、カメラ60の撮像画像データをサーバー装置3にアップロードするタイミングは、カメラ60が撮像を実行して撮像画像データを生成したタイミングだけに限定されない。例えば、作業ブロックの設定内容に設定された処理が完了し、ステップS21で次に実行する作業ブロックを選択する前や、工程フローデータ162の実行完了後に撮像画像データをサーバー装置3にアップロードしてもよい。また、HMD100の電源スイッチがオフされた後のシャットダウンシーケンスにおいて撮像画像データをサーバー装置5にアップロードしてもよい。
制御部150は、撮像画像データをサーバー装置5にアップロードすると、作業ブロックの設定内容に設定された処理が完了したか否かを判定する(ステップS32)。制御部150は、作業ブロックの設定内容に設定された処理が完了していない場合(ステップS32/NO)、ステップS28に戻り処理の実行中、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS28)。また、制御部150は、作業ブロックの設定内容に設定された処理が完了した場合(ステップS32/YES)、ステップS21に戻り次の作業ブロックを選択する(ステップS21)。
図10は、サーバー装置5の動作を示すフローチャートである。
制御部55は、通信ネットワーク7を介して通信部51によりデータを受信すると(ステップS41/YES)、受信したデータを特定する。まず、制御部55は、受信したデータに、HMD100から送信される撮像画像データが含まれるか否かを判定する(ステップS42)。
制御部55は、受信したデータに撮像画像データが含まれる場合(ステップS42/YES)、受信したデータから画像識別情報、作業者情報及びHMD識別情報を取り出す。制御部55は、取り出した情報を、情報管理テーブル57の該当するHMD識別情報が登録されたセルに登録する。また、制御部55は、受信した撮像画像データを画像識別情報に対応付けて記憶部53に記憶させる(ステップS43)。
また、制御部55は、通信ネットワーク7を介して受信したデータが撮像画像データではない場合(ステップS42/NO)、受信したデータが撮像画像データの取得要求であるか否かを判定する(ステップS44)。制御部55は、受信したデータが撮像画像データの取得要求ではない場合(ステップS44/NO)、受信したデータに対応した処理を実行する(ステップS45)。また、制御部55は、受信したデータが撮像画像データの取得要求である場合(ステップS44/YES)、ステップS41でデータを受信した端末装置から、又はステップS41で受信したデータから端末識別情報を取得する(ステップS46)。制御部55は、取得した端末識別情報が情報管理テーブル57に登録されているか否かを判定する(ステップS47)。
制御部55は、取得した端末識別情報が情報管理テーブル57に登録されていない場合(ステップS47/NO)、データを受信した端末装置に、撮像画像データをダウンロードすることなく処理フローを終了させる。
また、制御部55は、取得した端末識別情報が情報管理テーブル57に登録された識別情報である場合(ステップS47/YES)、ダウンロード可能な撮像画像データの一覧を端末装置に表示させる。例えば、制御部55はサムネイル画像を生成して、端末装置に表示させる。撮像画像データは、取得した端末識別情報に対応付けて情報管理テーブル57に登録された画像識別情報の撮像画像データである。制御部55は、端末装置から撮像画像データを選択する入力を受け付けると、選択された撮像画像データを端末装置にダウンロードする(ステップS48)。
次に、図11に示すフローチャートを参照しながら制御部150の第3の動作を説明する。この第3の動作は、カメラ60の撮像画像データからバーコードを撮像した撮像画像データを取得して、バーコードに設定された回数だけ、撮像画像データの記憶部160への記憶を許可する動作である。図11に示すステップS51及びS52の動作は、図8に示すステップS1及びS2と同一であるため、説明を省略する。
制御部150は、選択した作業ブロックが読込ブロックであるか否かを判定する(ステップS53)。制御部150は、選択した作業ブロックが読込ブロックではないと判定した場合(ステップS53/NO)、選択した作業ブロックに対応した処理を実行する(ステップS54)。ステップS54及びS55の処理は、図8のステップS4及びS5と同一であるため説明を省略する。
制御部150は、選択ブロックが読込ブロックである場合(ステップS53/YES)、メモリー121から撮像画像データを取得する(ステップS26)。制御部150は、一定時間ごとにカメラ60に撮像を実行させ、生成された撮像画像データをメモリー121に書き込み一時的に記憶させる。
制御部150は、取得した撮像画像データを解析して、撮像画像データにバーコードの画像が含まれるか否かを判定する(ステップS57)。制御部150は、バーコードの画像が含まれない場合(ステップS57/NO)、ステップS56に戻りメモリー121から次の撮像画像データを取得してバーコードの画像が含まれるか否かを判定する。
また、制御部150は、撮像画像データにバーコードの画像が含まれる場合(ステップS57/YES)、バーコードの画像からコード情報を抽出し(ステップS58)、抽出したコード情報を記憶部160又はメモリー121に記憶させる。また、制御部150は、抽出したコード情報を解析して使用可能回数を決定する(ステップS59)。使用可能回数は、撮像画像データを記憶部160に記憶させることを許可する回数の上限を規定する。制御部150は、実行中の作業ブロックにおいて、使用可能回数を上限として撮像画像データの利用を許可する。また、シャッターボタンに対応するキーの操作を受け付けたときだけ、カメラ60に撮像を実行させる場合、使用可能回数は、カメラ60による撮像を許可する回数の上限を規定する。使用可能回数は、バーコードのコード情報として設定することも可能であるし、使用者識別情報ごとや、作業ブロックごとに予め設定しておくことも可能である。
また、制御部150は、取得したコード情報により使用可能回数を決定できない場合、すなわち、バーコードの画像がHMD100による識別が不可能なバーコードの画像であった場合、画像表示部20によりエラーを表示させてもよい。制御部150は、画像表示部20によりエラーを表示させると、ステップS56の処理に移行してメモリー121から撮像画像データを取得してコード情報を抽出する。
制御部150は、使用可能回数を決定すると、工程フローデータ162に従って、作業者からの入力を操作部110等により受け付ける入力ブロックを実行する(ステップS60)。制御部150は、入力ブロックを実行する場合に、シャッターボタンに対応するキーの操作を受け付けたか否かを判定する(ステップS61)。制御部150は、シャッターボタンに対応するキーの操作を受け付けていない場合(ステップS61/NO)、処理が完了したか否かを判定する(ステップS62)。ステップS62の判定は、操作部110により処理の完了を示す操作を受け付けたか否かを判定するものであってもよいし、使用可能回数に対応する枚数の撮像画像データを記憶部160に記憶させたか否かを判定してもよい。制御部150は、処理が完了していないと判定した場合(ステップS62/NO)、ステップS61に戻りシャッターボタンに対応するキーの操作を受け付けたか否かを判定する。また、制御部150は、処理が完了したと判定した場合(ステップS62/YES)、ステップS51に戻って作業ブロックを選択する。
また、制御部150は、シャッターボタンに対応するキーの操作を受け付けた場合(ステップS61/YES)、カメラ60に撮像を実行させ(ステップS63)、撮像された撮像画像データを記憶部160に記憶させる(ステップS64)。また、制御部150は、撮像画像データを記憶部160に記憶させるときに報知を行う(ステップS65)。
次に、制御部150は、撮像画像データを記憶部160に記憶させた回数が、使用可能回数に達したか否かを判定する(ステップS66)。制御部150は、使用可能回数に達していない場合(ステップS66/NO)、ステップS61に戻りシャッターボタンに対応するキーの操作を受け付けたか否かを判定する。また、制御部150は、使用可能回数に達した場合(ステップS66/YES)、撮像画像データを記憶部160に記憶させない設定に変更し(ステップS67)、ステップS51に戻り作業ブロックを選択する。このとき、制御部150は、使用可能回数に達した旨を画像表示部20により表示させてもよい。
以上説明したように本実施形態のHMD100は、記憶部160、カメラ60と、制御部150とを備える。
記憶部160は、実行順序が予め定められた複数の作業ブロックを含む工程フローを定義する工程フローデータ162を記憶する。カメラ60は、外景を撮像する。制御部150は、工程フローデータ162に従って工程フローを実行する。工程フローデータ162に含まれる少なくともいずれかの作業ブロックは、カメラ60の撮像画像データの利用を許可するか否かを設定した許可情報を含む。制御部150は、工程フローを実行する場合に、作業ブロックに関する工程フローデータ162の設定に従って、作業ブロックごとの撮像画像データの利用の可否を制御する。
OSによりカメラ60の撮像機能を制御する場合、一律にカメラ60を動作させるか否かの設定しかできず、また、OSのプログラムを書き換えるともできないため、利便性が低下する要因となっていた。
本実施形態では、OS151上で実行される特定の機能を持つアプリケーションプログラムである工程フローデータ162によりカメラ60の撮像を制御する。工程フローデータ162を実行する場合に、工程フローに含まれる作業ブロックごとに撮像画像データの利用の可否が制御される。従って、作業ブロックごとに、撮像画像データの利用の可否を制御することができ、セキュリティー性の確保と使用者の利便性の向上とを両立させることができる。
また、制御部150は、作業ブロックを実行する場合に、作業ブロックに関する工程フローデータ162の設定に従って、カメラ60を動作させる状態と停止させる状態とを切り替える。
従って、制御部150に工程フローデータ162を実行させることで、作業ブロックごとにカメラ60を動作させる状態と停止させる状態とを切り替えることができる。
また、HMD100は、カメラ60の撮像画像データを記憶するメモリー121を備える。制御部150は、作業ブロックを実行する場合に、作業ブロックに関する工程フローデータ162の設定に従って、メモリー121に記憶されたカメラ60の撮像画像データを利用するか否かを制御する。
従って、工程フローデータ162の設定に従って、メモリー121に記憶された撮像画像データの利用の可否を制御することができる。
また、制御部150は、コード情報を含む画像を撮像する処理を含む作業ブロックを実行する場合に、カメラ60の撮像画像データを利用する制御を行う。制御部150は、カメラ60の撮像画像データを利用する制御を行う場合に、カメラ60の撮像撮像データからコード情報を抽出して記憶部160に記憶させる。
従って、コード情報を含む画像を撮像する作業ブロックを実行する場合に、撮像撮像データからコード情報を抽出し、抽出したコード情報に対応した処理を実行することができる。
また、制御部150は、コード情報を含む画像を撮像する処理を含む作業ブロックを実行する場合に、撮像画像データから抽出されたコード情報に基づき撮像撮像データの使用可能回数を決定する。制御部150は、工程フローに含まれる他の作業ブロックで使用可能回数を上限として撮像画像データの利用を可能とする。
この構成によれば、撮像撮像データの使用可能回数の上限を設定することができる。
また、制御部150は、撮像画像データの利用が可能に設定された作業ブロックを実行する場合に、カメラ60の複数回の撮像に相当する撮像画像データの利用を可能とする。
従って、撮像画像データの利用が可能に設定された作業ブロックにおいて、複数回の撮像を実行させることができる。
また、HMD100は、報知部としてLEDインジケーター12及び67を備える。
制御部150は、メモリー121に記憶されたカメラ60の撮像画像データを記憶部160に記憶させる際に報知を行う。
従って、撮像画像データを記憶部160に記憶させたことを報知することができる。
また、HMD100の制御部150は、撮像画像データの利用を許可する場合に、カメラ60により撮像された撮像画像データを通信部117によりサーバー装置5に送信する。
従って、撮像画像データの利用を許可する場合に、撮像画像データがサーバー装置5に送信される。従って、撮像画像データの外部への流出を防止することができる。
また、制御部150は、撮像画像データに、撮像画像データの利用を制限する制限情報としてのパスワードを付加してサーバー装置5に送信する。
従って、撮像画像データが第3者に視認されるのを防止して、情報の流出をより効果的に防止することができる。
また、制御部150は、撮像画像データに、HMD100を識別するHMD識別情報を付加してサーバー装置5に送信する。
従って、サーバー装置5において、撮像画像データを生成したHMD100を特定することができ、撮像画像データが外部装置に送信されるのを防止することができる。
また、サーバー装置5は、通信部51、記憶部53、制御部55を備える。
記憶部53は、HMD100から受信した撮像画像データ及びHMD識別情報を対応付けて記憶する。また、記憶部53は、撮像画像データを利用可能な端末装置を識別する端末識別情報と、端末識別情報に対応する端末装置が撮像画像データを取得可能なHMD100のHMD識別情報とを対応付けて記憶する。
制御部55は、通信部51により端末識別情報を受信した場合に、記憶部53に、受信した端末識別情報に一致する端末識別情報が記憶されているか否かを判定する。
制御部55は、一致する端末識別情報が記憶部53に記憶されている場合に、一致する端末識別情報に対応付けられたHMD識別情報の撮像画像データを、端末識別情報に対応する端末装置に送信する。
従って、撮像画像データが外部装置に送信されるのを防止することができる。
次に、工程フローデータ162の作成及び編集を行う編集装置について説明する。
図12は、編集装置として動作するPC(Personal Computer)300の機能ブロック図である。PC300は、ディスプレイ332及び入力デバイス334を備え、ユーザーにより操作が可能なコンピューターであれば、具体的な形態は限定されない。例えば、デスクトップ型のコンピューターであってもよいし、ノート型コンピューターやタブレット型のコンピューター等の可搬型のコンピューターであってもよい。また、図12に示す機能を備える構成であれば、スマートフォン等の小型の装置であってもよい。
PC300は、制御部310、記憶部320、表示部331、入力部333、通信部336及びI/F部337を備え、これらはバス339により接続される。I/F部337は、本発明の「接続部」に相当する。
制御部310は、CPU等のプロセッサーを備え、プロセッサーによりプログラムを実行することで、PC300を制御し、PC300の各種機能を実現する。制御部310は、プロセッサーのワークエリアを形成するRAMを備えてもよい。また、制御部310は、プロセッサーが実行する基本制御プログラムを不揮発的に記憶するROMを備えてもよい。
記憶部320は、磁気的記憶媒体、光学的記憶媒体、又は半導体記憶デバイス等を備えて構成され、プログラムやデータを記憶する記憶領域を有する。記憶部320は、制御部310により実行されるプログラム、及び制御部310により処理されるデータを不揮発的に記憶する。記憶部320が記憶するプログラムやデータについては後述する。
表示部331は、ディスプレイ332に接続され、制御部310の制御に従って、文字や画像を含む各種画面をディスプレイ332に表示させる。ディスプレイ332は、本発明の「表示面」に相当する。
ディスプレイ332は、液晶表示装置、有機EL(Organic Electro Luminescence)表示装置、又はその他の表示装置で構成され、表示部331によって駆動される。
入力部333は、入力デバイス334に接続され、入力デバイス334の操作を検出し、入力デバイス334の操作による入力を受け付ける。入力部333は、入力デバイス334による入力内容を示すデータを制御部310に出力する。
入力デバイス334は、例えば、キーボード等の文字入力デバイスや、マウス、デジタイザー、ペンタブレット等のポインティングデバイス等である。入力デバイス334は、ディスプレイ332とともに一体となった形態、例えば、タッチパネルにより構成されてもよい。また、入力デバイス334は、ディスプレイ332に表示される画面と組み合わされるソフトウェアキーボードや、GUI(Graphical User Interface)で構成されてもよい。
I/F(Interface)部337は、PC300の外部装置を接続するインターフェイスであり、例えば、USB(Universal Serial Bus)インターフェイスで構成される。I/F部337は、ケーブルを接続するコネクター及びインターフェイス回路(いずれも図示略)を複数備え、複数のHMD100を同時に接続可能である。I/F部337は、制御部310の制御により、I/F部337に接続された外部装置との間でデータを入出力する。
通信部336は、制御部310の制御に従って、PC300の外部装置との間で有線又は無線通信を実行する。通信部336は、例えば、Ethernet(登録商標)プロトコル、無線LAN(WiFi(登録商標)を含む)、Bluetooth(登録商標)等の各種プロトコルに従って通信を実行する。
記憶部320が記憶するプログラム及びデータの例として、図12には、OS321、工程フロー定義ツール322、表示関連データ323、条件定義情報324、工程フローデータ325、出力設定データ326、及び出力データ327を示す。OS321は、制御部310がPC300を制御する制御プログラムであり、制御部310によってアプリケーションプログラムを動作させるためのプラットフォームを形成する。OS321を制御部310が実行することにより、制御部310が実行するアプリケーションプログラムに対し、PC300の基本的機能がAPI(Application Program Interface)として提供される。PC300の基本的機能とは、例えば、表示部331による表示処理、入力部333による入力検出処理、I/F部337によるデータ入出力処理、通信部336による通信処理、及び、その他の処理を含む。
工程フロー定義ツール322は、PC300により工程フローを作成及び編集するためのアプリケーションプログラムである。制御部310が工程フロー定義ツール322を実行することにより、HMD100が実行する動作作フローを作成及び編集できる。工程フロー定義ツール322により作成される工程フローは、動作フローの一具体例である。
表示関連データ323は、制御部310が工程フロー定義ツール322を実行する場合に表示部331により表示される画像やテキストのデータを含む。制御部310は、工程フロー定義ツール322を実行する際に、表示関連データ323を参照し、表示関連データ323に基づく画像やテキストを、表示部331によってディスプレイ332に表示させる。
条件定義情報324は、工程フローに含まれる各作業ブロックについて、条件を定義する情報であり、工程フロー定義ツール322の実行により作成又は編集される一部又は全部の作業ブロックについての情報を含む。作業ブロックの条件とは、作業ブロックの内容に関して設定される条件である。例えば、情報の入力に相当する作業ブロックには、入力される情報のフォーマット、入力方法、入力されない場合の動作等が設定される必要がある。条件定義情報324は、情報の入力に相当する作業ブロックの条件として、入力される情報のフォーマット、入力方法、入力されない場合の動作を定義することが設定される。
工程フローデータ325は、制御部310が工程フロー定義ツール322を実行することにより生成された工程フローのデータである。工程フローデータ325は、工程フローが含む作業ブロック、作業ブロックの実行順序、作業ブロックについて入力された設定内容を含み、その他の情報を含んでもよい。工程フローデータ325は、制御部310が工程フロー定義ツール322を実行することにより解釈可能なデータフォーマットを有する。このため、制御部310は、工程フロー定義ツール322を実行する際に、記憶部320から工程フローデータ325を読み出して、読み出した工程フローデータ325が示す工程フローを編集することができる。この場合、編集後の工程フローに基づき、記憶部320に記憶された工程フローデータ325を制御部310が更新することもできる。
出力設定データ326は、工程フローデータ325を出力データ327に変換する場合の設定に関するデータである。出力データ327は、HMD100又はHMD100以外の装置において、工程フローデータ325の通りに工程フローを実行するためのデータであり、工程フローデータ325とはデータフォーマット等が異なる。
出力データ327は、HMD100が解釈して実行可能なデータであり、例えば、汎用性を有するデータフォーマットで記述される。汎用性を有するデータフォーマットとは、例えば、HMD100がウェブブラウザーによって処理可能なデータフォーマットである。具体的には、XML(Extensible Markup Language)、HTML(HyperText Markup Language)等で記述されるデータである。
出力データ327は、PC等の汎用的な機器を含む各種機器で工程フローを実行するための汎用性を有するデータであってもよい。また、出力データ327は、工程フローを実行する機器の種類、構成、又は仕様のいずれかに対応させたデータであってもよい。例えば、カメラを備える機器に対応する出力データ327は、情報を入力する方法としてカメラの撮像画像データを用いた文字認識を指定する出力データ327であってもよい。この出力データ327は、カメラを備える機器で実行された場合に、カメラを利用することで作業者の入力に係る負担を軽減できる。また、バーコードリーダーを備える機器に対応する出力データ327は、情報を入力する方法としてバーコードリーダーの読取データを取得するデータであってもよい。また、出力データ327は、HMD100に対応させるため、表示される画面の背景色、画面の解像度、画面に表示される画像や文字のサイズ等が調整される。これらの情報を調整することで、HMD100を装着する作業者の視機能の負荷が軽減される。
制御部310は、工程フロー定義ツール322を実行して工程フローデータ325の生成及び編集を行う。また、制御部310は、工程フロー定義ツール322を実行することにより、工程フローデータ325から出力データ327を生成(変換)する。
図13は、PC300の動作を示すフローチャートである。
図13の動作は、制御部310がOS321を実行している状態で実行される。ユーザーの操作等に対応して、制御部310は、記憶部320から工程フロー定義ツール322を読み出して起動する(ステップS101)。制御部310は、表示関連データ323を読み出し、表示関連データ323に含まれる画像等を配置した編集画面を、表示部331により表示させる(ステップS102)。
制御部310は、編集画面401を表示し(ステップS102)、ユーザーの操作に従って工程フローデータ325を作成又は編集する工程フロー編集処理を実行する(ステップS103)。この工程フロー編集処理で作成又は編集される工程フローデータ325は、複数のHMD100を共通に動作させるための工程フローデータ325であってもよいし、HMD100ごとに作成する工程フローデータ325であってもよい。工程フローデータ325をHMD100ごとに作成する場合、ステップS101〜S104のフローを、工程フローデータ325を生成するHMD100の台数に対応した回数実行させる。また、複数のHMD100のいずれかに対応する工程フローデータ325を作成済みである場合、制御部310は、この作成済みの工程フローデータ325を編集して、他のHMD100に実行させる工程フローデータ325を生成することもできる。
制御部310は、工程フロー編集処理で作成又は編集された工程フローの工程フローデータ325を、記憶部320に記憶させる(ステップS14)。すでに、同じ工程フローの工程フローデータ325が記憶されている場合には、この工程フローデータ325を上書きし、更新する。
制御部310は、HMD100等の外部の装置に工程フローデータ325を出力するか否かを判定する(ステップS105)。入力デバイス334の操作等により、工程フローデータ325の出力が指示された場合(ステップS105/YES)、制御部310は、出力設定データ326を参照して、出力先の装置の種別や機能に対応する設定を取得する(ステップS106)。出力設定データ326は、汎用の1種類の設定のみを含んでもよく、この場合、制御部310は出力設定データ326に含まれる1種類の設定を取得すればよい。
制御部310は、ステップS106で取得した設定に従って、工程フローデータ325をもとに出力データ327を生成し、出力する(ステップS107)。ステップS107で、制御部310は、出力データ327を記憶部320に記憶してもよいし、出力データ327をI/F部3376に接続された機器に出力してもよいし、出力データ327を通信部336により送信してもよい。また、出力データ327がHMD100Aに実行させる工程フローデータ325をもとに生成された出力データ327である場合、HMD100Aが接続されたI/F部337に出力データ327を出力する。同様に、出力データ327がHMD100Bに実行させる工程フローデータ325をもとに生成された出力データ327である場合、HMD100Bが接続されたI/F部337に出力データ327を出力する。また、工程フローデータ325を出力しない場合(ステップS105/NO)、制御部310は本処理を終了する。
図14は、PC300の表示例を示す図であり、編集画面401の構成例を示す。
編集画面401は、工程フローを作成及び編集するために工程フロー定義ツール322の機能により表示される画面である。編集画面401は、大別して候補領域410及び編集領域420を有する。また、編集画面401の上部には、工程フローの作成及び編集の終了を指示するアイコンや工程フローの保存を指示するアイコンを含む指示部401aが配置される。編集画面401は、本発明の「作業用画面」に相当する。また、編集領域420は、本発明の「作業領域」に相当する。
候補領域410には、作成又は編集される工程フローに組み込むことが可能な作業ブロックが一覧表示される。候補領域410は、作業ブロック毎に区分された領域に、作業ブロックを説明するテキストと、作業ブロックを示すシンボルとしての画像であるアイコンとが配置されて構成される。
図14の編集画面401において、候補領域410には、7の作業ブロックに対応して、作業ブロック表示部411、412、413、414、415、416、417が配置される。
作業ブロック表示部411は、手順表示ブロック対応することを示すテキストとして作業ブロック説明表示部411aを含み、手順表示ブロックを示すアイコン411bを含む。また、作業ブロック表示部412は、読込ブロックに対応することを示すテキストとして作業ブロック説明表示部412aを含み、読込ブロックを示すアイコン412bを含む。また、作業ブロック表示部413は、入力ブロックに対応することを示すテキストとして作業ブロック説明表示部413aを含み、入力ブロックを示すアイコン413bを含む。また、作業ブロック表示部414は、判定ブロックに対応することを示すテキストとして作業ブロック説明表示部414aを含み、判定ブロックを示すアイコン414bを含む。また、作業ブロック表示部415は、チェックボックスによる選択入力ブロックに対応することを示すテキストとして作業ブロック説明表示部415aを含み、選択入力ブロックを示すアイコン415bを含む。また、作業ブロック表示部416は、ラジオボタンによる選択入力ブロックに対応することを示すテキストとして作業ブロック説明表示部416aを含み、選択入力ブロックを示すアイコン416bを含む。また、作業ブロック表示部417は、終端ブロックに対応することを示すテキストとして作業ブロック説明表示部417aを含み、終端ブロックを示すアイコン417bを含む。
候補領域410に配置された作業ブロック表示部411〜417は、工程フローを作成及び編集する際に、工程フローに組み込む作業ブロックの候補である。ユーザーは、入力デバイス334の操作により、作業ブロック表示部411〜417のいずれかを選択して編集領域420にドラッグアンドドロップすることで、所望の作業ブロックを工程フローに組み込むことができる。
編集領域420は工程フローを表示する表示領域である。編集領域420には、候補領域410に配置された作業ブロック表示部411〜417のうち、ユーザーにより選択された作業ブロックが配置され、編集領域420に配置された1又は複数の作業ブロックによって1つの工程フローが構成される。編集領域420には、作業ブロックに対応する画像であるオブジェクトが配置される。
ユーザーは、作業ブロック表示部411からいずれか1つの作業ブロックのアイコンを選択(ドラッグ)し、選択したアイコンを編集領域420にドロップする。アイコンが編集領域420にドロップされると、編集領域420にはオブジェクト421が表示される。オブジェクト421は、作業ブロック表示部411の作業ブロックを示している。オブジェクト421は、アイコン411bと同じ画像であるアイコン421aを含む。このアイコン421aにより、オブジェクト421が、作業ブロック表示部411の作業ブロックを示していることが、目視により容易に確認できる。
また、編集領域420には、オブジェクトを追加可能な位置を示すガイド430が表示される。ガイド430は、オブジェクト421の下に位置しており、オブジェクト421の次に実行される作業ブロックを配置できることを示す。ユーザーは、作業ブロック表示部411からいずれか1つの作業ブロックのアイコンを選択(ドラッグ)して、ガイド430にドロップする。この操作により、編集領域420にはオブジェクト421の次に実行するオブジェクトと、オブジェクトを追加可能な位置を示すガイド430とが表示される。
図15は、PC300の表示例を示す図であり、詳細設定画面451の構成例を示す。図15は、編集画面401で編集領域420に複数のオブジェクトが配置された状態で、詳細設定画面451に表示が切り替えられた状態の例である。
詳細設定画面451は、工程フロー表示領域460、ビュー編集領域470、及び詳細設定領域480を含む。また、詳細設定画面451の上部には、詳細設定の保存を指示するアイコンや詳細設定処理の終了を指示するアイコンを含む指示部451aが配置される。
工程フロー表示領域460は、工程フロー461が表示される領域であり、工程フロー461を構成する作業ブロックを示すオブジェクトが、実行順に並べて配置される。図15の例ではオブジェクト421及びオブジェクト422を含む工程フロー461が表示される。また、工程フロー461は終端を示すオブジェクトを含まず、作成途中である。このため、工程フロー461の末端にはガイド430が表示される。
ビュー編集領域470は、本処理で作成される工程フロー461をHMD100が実行する場合に、HMD100により表示される画面の構成を表示する領域である。ビュー編集領域470には、工程フロー表示領域460に表示された工程フロー461を構成するオブジェクトのいずれかに対応して、画面の構成が表示される。
図15には、ビュー編集領域470には、工程フロー461の1番目のオブジェクトであるオブジェクト421に対応する画面(ユーザービューという)471の構成を示す。このユーザービュー471は、工程フロー461に含まれる複数の作業ブロックにおける順番を表示する工程表示部472を含む。工程表示部472は、実行中の作業ブロックが全行程における何番目かを、作業者に知らせる表示部である。
詳細設定領域480は、工程フロー461において選択されているオブジェクト421について、条件定義情報324に定義された設定内容を入力するための領域である。図15の詳細設定領域480には、オブジェクト421の設定内容に即した入力を行うため、タイトル設定部481及び作業情報設定部482が配置される。タイトル設定部481は、作業名及び作業IDを入力する入力ボックスを含む。作業情報設定部482は、作業手順や作業におけるポイント等の作業者に示す内容を入力するための入力ボックスを含む。
また、詳細設定領域480には、カメラ60により撮像される撮像画像データの利用を許可するか否かを示すチェックボックス483が表示される。チェックボックス483にチェックが入力されることで、オブジェクト421に対応する作業ブロックに、撮像画像データの利用を許可する許否情報が設定される。また、チェックボックス483のチェックを外すことで、オブジェクト421に対応する作業ブロックに、撮像画像データの利用を拒否する許否情報が設定される。
以上説明したように本実施形態のPC300は、実行順序が定められた複数の作業ブロックを含む工程フローを定義する制御データを編集可能な編集装置である。
PC300は、入力部333、ディスプレイ332に表示を行う表示部331と、制御部310とを備える。
制御部310は、編集領域420を含む編集画面401をディスプレイ332に表示させる。また、制御部310は、入力部333により受け付けられた入力に応じて、動作ステップを示すオブジェクトであって動作ステップの内容を示す画像を含むオブジェクトを編集領域420に配置する。また、制御部310は、編集領域420におけるオブジェクトの配置に基づき工程フローを作成し、作成した工程フローを定義する工程フローデータ162を生成する。
工程フローデータ162は、少なくともいずれかの動作ステップについて、カメラ60の撮像画像データの利用を許可するか否かの設定を含む。
従って、カメラ60の撮像画像データの利用を許可するか否かを作業ブロックごとに設定した工程フローを作成することができる。
また、PC300は、HMD100との接続部としてI/F部337を備える。制御部310は、I/F部337に接続されたHMD100に、HMD100に対応付けて作成された工程フローを定義する出力データ327を出力する。
従って、HMD100で実行可能な出力データ327をHMD100に出力して実行させることができる。
また、I/F部337には、複数のHMD100を接続可能である。
制御部310は、複数のHMD100の各々に対応付けて作成された工程フローを、対応するHMD100に出力する。
従って、複数のHMD100の各々に対応付けて作成された工程フローを、対応するHMD100において実行させることができる。
上述した実施形態は、本発明の好適な実施の形態である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形実施が可能である。
例えば、上述した実施形態では、透過型の頭部装着型表示装置を例にして説明したが、頭部装着型表示装置は、装着状態において外界を視認することができない非透過型であってもよい。また、本実施形態では、HMD100を例に挙げて説明したが、タブレットPCであってもよいし、プロジェクターであっても適用可能である。
また、HMD100は、コンテンツの供給元となる種々の外部機器を接続するインターフェイス(図示略)を備えてもよい。例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスであってもよく、無線通信インターフェイスで構成してもよい。この場合の外部機器は、HMD100に画像を供給する画像供給装置であり、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。この場合、HMD100は、これらの外部機器から入力されるコンテンツデータ163に基づく画像や音声を出力できる。
また、上述した実施形態では、制御装置10が画像表示部20と有線接続される構成を例示したが、本発明はこれに限定されず、制御装置10に対して画像表示部20が無線接続される構成であってもよい。この場合の無線通信方式は通信部117が対応する通信方式として例示した方式を採用してもよいし、その他の通信方式であってもよい。
また、制御装置10が備える一部の機能を画像表示部20に設けてもよく、制御装置10を複数の装置により実現してもよい。すなわち、制御装置10は、箱形のケース10Aを備える構成に限定されない。例えば、制御装置10に代えて、使用者の身体、着衣、又は使用者が身につけられるデバイスを用いてもよい。使用者が身につけられるデバイスは、例えば、時計型の装置、指輪型の装置、レーザーポインター、マウス、エアーマウス、ゲームコントローラー、ペン型のデバイス等であってもよい。
さらに、上記の実施形態では、画像表示部20と制御装置10とが分離され、接続ケーブル40を介して接続された構成を例に挙げて説明した。本発明はこれに限定されず、制御装置10と画像表示部20とが一体に構成され、使用者の頭部に装着される構成とすることも可能である。
また、制御装置10として、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置10として、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼LEに対応して画像を表示する表示部と、使用者の右眼REに対応して画像を表示する表示部とを備えていればよい。また、画像表示部20に代えてヘッドアップディスプレイを用いることで、自動車や飛行機等の車両に搭載することも可能である。例えば、車両にヘッドアップディスプレイを搭載する場合、トラックパッド14の操作面に相当する操作面を車両のハンドル等に設ける。
また、例えば、ヘルメット等の身体防護具に内蔵された頭部装着型表示装置として構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び当該部分に対し位置決めされる部分を装着部とすることができる。
また、画像光を使用者の眼に導く光学系として、右導光板26及び左導光板28の一部に、ハーフミラー261、281により虚像が形成される構成を例示した。本発明はこれに限定されず、右導光板26及び左導光板28の全面又は大部分を占める面積を有する表示領域に、画像を表示する構成としてもよい。この場合、画像の表示位置を変化させる動作において、画像を縮小する処理を含めてもよい。
さらに、本発明の光学素子は、ハーフミラー261、281を有する右導光板26、左導光板28に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図6、図7等に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、制御部150が実行するプログラムは、不揮発性記憶部123又は制御装置10内の他の記憶装置(図示略)に記憶されてもよい。また、外部の装置に記憶されたプログラムを通信部117や外部コネクター184を介して取得して実行する構成としてもよい。また、制御装置10に形成された構成のうち、操作部110が使用者インターフェイス(UI)として形成されてもよい。
また、図8、図9及び図11に示すフローチャートの処理単位は、HMD100の制御部150の処理を理解容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって本発明が制限されることはない。また、制御部150の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
図10に示すサーバー装置3の動作を示すフローチャート、及び図13に示すPC300の動作を示すフローチャートについても同様である。
1…情報処理システム、5…サーバー装置、7…通信ネットワーク、9…無線アクセスポイント、10…制御装置、10A…ケース、11…操作ボタン、12…LEDインジケーター、13…操作子、14…トラックパッド、15…上下キー、16…切替スイッチ、17…LED表示部、18…電源スイッチ、19…バイブレーター、20…画像表示部、21…右保持部、22…右表示ユニット、23…左保持部、24…左表示ユニット、26…右導光板、27…前部フレーム、28…左導光板、30…ヘッドセット、32…右イヤホン、34…左イヤホン、40…接続ケーブル、46…コネクター、51…通信部、53…記憶部、55…制御部、57…情報管理テーブル、60…カメラ、63…マイク、65…照度センサー、67…LEDインジケーター、100、100A、100B…HMD、110…操作部、111、235…6軸センサー、113…磁気センサー、115…GPS受信部、117…通信部、120…コントローラー基板、121…メモリー、123…不揮発性記憶部、130…電源部、132…バッテリー、134…電源制御回路、140…メインプロセッサー、150…制御部、151…OS、152…画像処理部、153…撮像制御部、154…入力検出部、155…通信制御部、157…情報取得部、158…工程フロー実行部、160…記憶部、161…アプリケーションプログラム、162…工程フローデータ、163…コンテンツデータ、164…HMD識別情報、165…使用者識別情報、180…音声インターフェイス、182…音声コーデック、184…外部コネクター、186…外部メモリーI/F部、188…USBコネクター、192…センサーハブ、194…FPGA、196、211、231…インターフェイス、213、233…受信部受信部、215…EEPROM、217…温度センサー、221、241…OLEDユニット、223、243…OLEDパネル、225、245…OLED駆動回路、237…磁気センサー、239…温度センサー、251…右光学系、252…左光学系、261、281…ハーフミラー、300…PC、310…制御部、320…記憶部、321…OS、322…工程フロー定義ツール、324…条件定義情報、325…工程フローデータ、326…出力設定データ、327…出力データ、332…ディスプレイ、333…入力部、334…入力デバイス、336…通信部、337…I/F部、339…バス、401…編集画面、401a…指示部、410…候補領域、411、412、413、415、416、417…作業ブロック表示部、411a、412a、413a、414a、415a、416a、417a…作業ブロック説明表示部、411b、412b、413b、414b、415b、416b、417b、421a…アイコン、420…編集領域、421、422…オブジェクト、430…ガイド、451…詳細設定画面、451a…指示部、460…工程フロー表示領域、461…工程フロー、470…ビュー編集領域、471…ユーザービュー、472…工程表示部、480…詳細設定領域、481…タイトル設定部、482…作業情報設定部、483…チェックボックス。

Claims (15)

  1. 使用者の頭部に装着される頭部装着型表示装置であって、
    実行順序が予め定められた複数の動作ステップを含む動作フローを定義する制御データを記憶する記憶部と、
    外景を撮像する撮像部と、
    前記制御データに従って前記動作フローを実行する制御部と、を備え、
    前記制御データの少なくともいずれかの前記動作ステップは、前記撮像部の撮像画像データの利用を許可するか否かの設定を含み、
    前記制御部は、前記動作フローを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記動作ステップごとの前記撮像画像データの利用の可否を制御する、頭部装着型表示装置。
  2. 前記制御部は、前記動作ステップを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記撮像部を動作させる状態と停止させる状態とを切り替える、請求項1記載の頭部装着型表示装置。
  3. 前記撮像部の撮像画像データを記憶する画像記憶部を備え、
    前記制御部は、前記動作ステップを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記画像記憶部に記憶された前記撮像部の撮像画像データを利用するか否かを制御する、請求項1記載の頭部装着型表示装置。
  4. 前記制御部は、コード情報を含む画像を撮像する処理を含む前記動作ステップを実行する場合に、前記撮像部の撮像画像データを利用する制御を行い、前記撮像部の撮像撮像データから前記コード情報を抽出して前記記憶部に記憶させる、請求項1から3のいずれか1項に記載の頭部装着型表示装置。
  5. 前記制御部は、コード情報を含む画像を撮像する処理を含む前記動作ステップを実行する場合に、前記撮像画像データから抽出された前記コード情報に基づき前記撮像撮像データの使用可能回数を決定し、前記動作フローに含まれる他の前記動作ステップで前記使用可能回数を上限として前記撮像画像データの利用を可能とする、請求項4記載の頭部装着型表示装置。
  6. 前記制御部は、前記撮像画像データの利用が可能に設定された前記動作ステップを実行する場合に、前記撮像部の複数回の撮像に相当する前記撮像画像データの利用を可能とする、請求項1から6のいずれか1項記載の頭部装着型表示装置。
  7. 報知部を備え、
    前記制御部は、前記画像記憶部に記憶された前記撮像部の前記撮像画像データを前記記憶部に記憶させる際に前記報知部による報知を行う、請求項3記載の頭部装着型表示装置。
  8. 実行順序が定められた複数の動作ステップを含む動作フローを定義する制御データを編集可能な編集装置であって、
    入力を受け付ける入力部と、
    表示面に表示を行う表示部と、
    作業領域を含む作業用画面を前記表示面に表示させ、前記入力部により受け付けられた入力に応じて、前記動作ステップを示すオブジェクトであって前記動作ステップの内容を示す画像を含む前記オブジェクトを前記作業領域に配置し、前記作業領域における前記オブジェクトの配置に基づき前記動作フローを作成し、作成した前記動作フローを定義する前記制御データを生成する制御部と、を備え、
    前記制御データは、少なくともいずれかの前記動作ステップについて、撮像部の撮像画像データの利用を許可するか否かの設定を含む、編集装置。
  9. 頭部装着型表示装置との接続部を備え、
    前記制御部は、前記接続部に接続された前記頭部装着型表示装置に、前記頭部装着型表示装置に対応付けて作成された前記動作フローを定義する前記制御データを出力する、請求項8記載の編集装置。
  10. 前記接続部には、複数の前記頭部装着型表示装置を接続可能であり、
    前記制御部は、前記接続部に接続された複数の前記頭部装着型表示装置の各々に対し、前記頭部装着型表示装置に対応付けて作成された前記動作フローを定義する前記制御データを出力する、請求項8記載の編集装置。
  11. 使用者の頭部に装着される頭部装着型表示装置と、情報処理装置とを備える情報処理システムであって、
    前記頭部装着型表示装置は、
    通信を行う第1通信部と、
    実行順序が予め定められた複数の動作ステップを含む動作フローを定義する制御データを記憶する記憶部と、
    外景を撮像する撮像部と、
    前記制御データに従って前記動作フローを実行する第1制御部と、を備え、
    前記制御データの少なくともいずれかの前記動作ステップは、前記撮像部の撮像画像データの利用を許可するか否かの設定を含み、
    前記第1制御部は、前記動作フローを実行する場合に、前記動作ステップに関する前記制御データの設定に従って、前記動作ステップごとの前記撮像画像データの利用の可否を制御し、前記撮像画像データの利用を許可する場合に、前記撮像部により撮像された前記撮像画像データを前記第1通信部により前記情報処理装置に送信する、情報処理システム。
  12. 前記第1制御部は、前記撮像画像データに、前記撮像画像データの利用を制限する制限情報を付加して前記情報処理装置に送信する、請求項11記載の情報処理システム。
  13. 前記第1制御部は、前記撮像画像データに、前記頭部装着型表示装置を識別する第1識別情報を付加して前記情報処理装置に送信する、請求項11記載の情報処理システム。
  14. 前記情報処理装置は、
    通信を行う第2通信部と、
    前記頭部装着型表示装置から受信した前記撮像画像データ及び前記第1識別情報を対応付けて記憶するデータ記憶部と、
    前記撮像画像データを利用可能な外部装置を識別する第2識別情報と、前記第2識別情報に対応した前記外部装置が撮像画像データを取得可能な前記頭部装着型表示装置の前記第1識別情報とを対応付けて記憶する識別情報記憶部と、
    前記第2通信部により前記第2識別情報を受信した場合に、前記識別情報記憶部に、受信した前記第2識別情報に一致する前記第2識別情報が記憶されているか否かを判定し、一致する前記第2識別情報が前記識別情報記憶部に記憶されている場合に、一致する前記第2識別情報に対応付けられた前記第1識別情報の前記撮像画像データを、前記第2識別情報を受信した前記外部装置に送信させる第2制御部と、
    を備える請求項13記載の情報処理システム。
  15. 使用者の頭部に装着される頭部装着型表示装置の制御方法であって、
    実行順序が予め定められた複数の動作ステップを含む動作フローが定義された制御データを実行するステップと、
    実行する前記動作ステップに含まれる撮像部の撮像を許可するか否かの設定に従って、前記撮像部を制御するステップと、
    を有する頭部装着型表示装置の制御方法。
JP2017236422A 2017-12-08 2017-12-08 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法 Pending JP2019105885A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017236422A JP2019105885A (ja) 2017-12-08 2017-12-08 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法
US16/212,789 US10816808B2 (en) 2017-12-08 2018-12-07 Head-mounted display apparatus, information processing device, system, and method for controlling use of captured images from head-mounted display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017236422A JP2019105885A (ja) 2017-12-08 2017-12-08 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法

Publications (1)

Publication Number Publication Date
JP2019105885A true JP2019105885A (ja) 2019-06-27

Family

ID=66696658

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017236422A Pending JP2019105885A (ja) 2017-12-08 2017-12-08 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法

Country Status (2)

Country Link
US (1) US10816808B2 (ja)
JP (1) JP2019105885A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10859835B2 (en) 2018-01-24 2020-12-08 Seiko Epson Corporation Head-mounted display apparatus and method for controlling imaging data of head-mounted display apparatus using release code
WO2021002057A1 (ja) * 2019-07-01 2021-01-07 オムロン株式会社 作業管理装置及びプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10514545B2 (en) * 2017-12-08 2019-12-24 Facebook Technologies, Llc Selective tracking of a head-mounted display
WO2020208717A1 (ja) * 2019-04-09 2020-10-15 マクセル株式会社 ヘッドマウント情報処理装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7619657B2 (en) 2000-10-04 2009-11-17 Fujifilm Corp. Recording apparatus, communications apparatus, recording system, communications system, and methods therefor for setting the recording function of the recording apparatus in a restricted state
WO2003049424A1 (fr) * 2001-12-03 2003-06-12 Nikon Corporation Appareil electronique, camera electronique, dispositif electronique, appareil d'affichage d'image et systeme de transmission d'image
JP2006164048A (ja) 2004-12-09 2006-06-22 Nikon Corp 電子機器、電子機器の機能制御方法、通信端末の制御方法および電子機器用機能制御情報の提供方法
JP2006208997A (ja) 2005-01-31 2006-08-10 Konica Minolta Photo Imaging Inc 映像表示装置及び映像表示システム
JP2006319575A (ja) 2005-05-11 2006-11-24 Olympus Corp 携帯端末システムおよび携帯端末機の機能制限方法
JP2008124885A (ja) 2006-11-14 2008-05-29 Sony Corp 撮像システム、撮像方法
JP2013172240A (ja) 2012-02-20 2013-09-02 Seiko Epson Corp 電子機器の機能制限解除システム、電子機器の機能制限解除方法及び電子機器
EP2870742A1 (en) 2012-07-25 2015-05-13 Kopin Corporation Headset computer with handsfree emergency response
JP5903375B2 (ja) 2012-11-29 2016-04-13 セコム株式会社 通信装置、方法、及びプログラム
KR101627290B1 (ko) * 2013-04-16 2016-06-21 구태언 보안강화 머리착용형 디스플레이 장치 및 그 장치를 통해 암호화된 정보에 액세스 하는 방법
WO2015189994A1 (ja) 2014-06-13 2015-12-17 株式会社日立システムズ 作業記録装置、作業記録システム、作業記録プログラムおよび作業記録方法
JP6574939B2 (ja) * 2014-09-16 2019-09-18 ソニー株式会社 表示制御装置、表示制御方法、表示制御システムおよび頭部装着ディスプレイ
JP6634697B2 (ja) 2015-05-13 2020-01-22 セイコーエプソン株式会社 頭部装着型表示装置
CN107076992A (zh) 2014-10-03 2017-08-18 精工爱普生株式会社 适应于环境的头戴式显示装置
US10078644B1 (en) * 2016-01-19 2018-09-18 Gopro, Inc. Apparatus and methods for manipulating multicamera content using content proxy
JP2017183826A (ja) 2016-03-28 2017-10-05 京セラ株式会社 ヘッドマウントディスプレイ
US10444828B2 (en) 2017-01-13 2019-10-15 Atheer, Inc. Methods and apparatus for providing procedure guidance
WO2018226882A1 (en) * 2017-06-07 2018-12-13 Amazon Technologies, Inc. Behavior-aware security systems and associated methods

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10859835B2 (en) 2018-01-24 2020-12-08 Seiko Epson Corporation Head-mounted display apparatus and method for controlling imaging data of head-mounted display apparatus using release code
WO2021002057A1 (ja) * 2019-07-01 2021-01-07 オムロン株式会社 作業管理装置及びプログラム
JP2021009562A (ja) * 2019-07-01 2021-01-28 オムロン株式会社 作業管理装置及びプログラム

Also Published As

Publication number Publication date
US10816808B2 (en) 2020-10-27
US20190179148A1 (en) 2019-06-13

Similar Documents

Publication Publication Date Title
CN108205197B (zh) 显示装置和显示装置的控制方法
US11178344B2 (en) Head-mounted display apparatus, display system, and method of controlling head-mounted display apparatus
CN108535868B (zh) 头部佩戴型显示装置及其控制方法
JP6387825B2 (ja) 表示システム、及び、情報表示方法
US10816808B2 (en) Head-mounted display apparatus, information processing device, system, and method for controlling use of captured images from head-mounted display apparatus
US10782531B2 (en) Head-mounted type display device and method of controlling head-mounted type display device
JP2018141824A (ja) 表示装置、及び、表示装置の制御方法
US20170289533A1 (en) Head mounted display, control method thereof, and computer program
JP2017016056A (ja) 表示システム、表示装置、表示装置の制御方法、及び、プログラム
CN105009039A (zh) 使用imu的直接全息图操纵
JP2018142857A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP6554948B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2019113693A (ja) 表示システム、表示システムの制御方法、表示装置、及び、表示装置の制御方法
JP6740584B2 (ja) 表示システム、表示装置の制御方法、及び、プログラム
JP2018142764A (ja) 表示システム、表示装置、及び、表示装置の制御方法
JP2020071587A (ja) 表示装置、及び、表示装置の制御方法
JP2017182228A (ja) 入力装置、入力方法、コンピュータープログラム
JP2017146726A (ja) 移動支援装置、及び、移動支援方法
JP2018055416A (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、及び、プログラム
US20190086677A1 (en) Head mounted display device and control method for head mounted display device
JP2017182413A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP6766403B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム
JP6733401B2 (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
JP2017134630A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2018085595A (ja) 頭部装着型表示装置、及び、頭部装着型表示装置の制御方法