JP7058621B2 - 映像記録装置およびヘッドマウントディスプレイ - Google Patents

映像記録装置およびヘッドマウントディスプレイ Download PDF

Info

Publication number
JP7058621B2
JP7058621B2 JP2019030441A JP2019030441A JP7058621B2 JP 7058621 B2 JP7058621 B2 JP 7058621B2 JP 2019030441 A JP2019030441 A JP 2019030441A JP 2019030441 A JP2019030441 A JP 2019030441A JP 7058621 B2 JP7058621 B2 JP 7058621B2
Authority
JP
Japan
Prior art keywords
unit
camera
video recording
image
work
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019030441A
Other languages
English (en)
Other versions
JP2020137000A (ja
Inventor
将史 山本
千代 大野
航史 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2019030441A priority Critical patent/JP7058621B2/ja
Priority to US16/711,777 priority patent/US10992909B2/en
Priority to CN201911378738.0A priority patent/CN111614919B/zh
Publication of JP2020137000A publication Critical patent/JP2020137000A/ja
Application granted granted Critical
Publication of JP7058621B2 publication Critical patent/JP7058621B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Closed-Circuit Television Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、映像記録装置およびヘッドマウントディスプレイに関する。
本技術分野の背景技術として、特許文献1がある。この文献には、ガスセンサをHMD(Head Mounted Display)に搭載し、複数の位置情報と連動することでガスの発生方向を特定してユーザに知らせ、事故を未然に防ぐ現場支援システムが記載されている。
特開2012-168683号公報
上記特許文献1に記載の技術では、作業を阻害せず、限られた記憶領域等のハードウェアリソースで作業状況等を効率よく記録することは考慮されていない。
本発明の目的は、作業を阻害せず、限られた記憶領域等のハードウェアリソースで作業状況等を効率よく記録することにある。
本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記課題を解決すべく、本発明の一態様に係る映像記録装置は、装着者の視野方向の映像を撮像するカメラと、所定の環境情報を検出する外部センサと通信可能に接続する接続部と、上記環境情報の異常状態を示す閾値を格納する閾値情報格納部と、上記外部センサの検出情報と上記閾値との比較により異常判定信号を出力する判定部と、上記異常判定信号に応じ上記カメラに所定の制御信号を出力する制御部と、上記カメラ及び上記外部センサからの出力情報を表示する表示部と、を備え、上記制御部は、上記異常判定信号が出力されると、上記カメラからの出力情報を所定の記憶部に転送させる制御信号を出力する、ことを特徴とする。
本発明によれば、作業を阻害せず、限られた記憶領域等のハードウェアリソースで作業状況等を効率よく記録することができる。上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
本発明の第一の実施形態に係る映像記録装置の構成例を示す図である。 映像記録装置の別の構成例を示す図である。 映像記録装置の装着時の外観の例を示す図である。 ヘッドマウント部の構造例を示す図である。 制御部の内部構造の例を示すブロック図である。 画像処理部の内部構造の例を示すブロック図である。 テキストデータ保持部のデータ構造例を示す図である。 判定部の内部構造の例を示すブロック図である。 閾値情報格納部のデータ構造例を示す図である。 映像記録装置の使用状態の例を示す図である。 HMDの表示画面の遷移例を示す図である。 モニタ処理のフローチャートの例を示す図である。 外部センサに可視光カメラを用いた場合の利用例を示す図である。 外部センサを用いた文字認識の際のHMD上の補助表示例を示す図である。 工程モニタ処理のフローチャートの例を示す図である。 外部センサの収納構造の例を示す図である。 接触検知センサの接続例を示すブロック図である。 装着者の視線方向を検出するカメラの構成例を示す図である。 装着者の視線方向を検出するカメラの構成例を示す図である。 盤作業のアラートの表示例を示す図である。 加速度センサを用いる判定部の内部構造の例を示すブロック図である。 加速度センサの場合の閾値情報格納部のデータ構造の例を示す図である。 TOFカメラを用いる判定部の内部構造の例を示すブロック図である。 解像度を下げる制御部の内部構造の例を示すブロックである。
以下、本発明に係る実施の形態を図面に基づいて説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。また、以下の実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aよりなる」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。
近年、透過型HMD(Head Mounted Display)が製品化され、工場等現場での作業支援に利用されている。透過型HMDは、例えばガラスやプラスチック等の可視光に対し透明に近い物質で形成された透過型ディスプレイを装着者の視線と交差するように配置して、視野を妨げずに情報を提示することができるウェアラブルコンピュータの一種である。一般的に、透過型HMDを装着したユーザは、自身の作業対象を見ながら透過型の仮想画面に作業支援に関する情報を投影表示することで、作業手順の確認や操作を行うことが可能となる。
例えば、先行技術文献に示したように、作業支援からさらに拡張し、作業対象の設備の状態が正常動作しているか確認を行うために、HMDに搭載したセンサにより周囲状態を検出し、そのデータをユーザにフィードバックする技術も可能となっている。
一方で、昨今では作業者のヒューマンエラー撲滅のため、また、作業対象物の状態や適切な作業の監視のため、作業対象物、対象文字、作業員の作業等を記録するニーズが高まっている。現場の状況を取得する手段として、HMDに搭載したカメラによる映像記録があるが、全ての作業を記録するためには記憶容量が莫大なものとなり、HMDが大型化する傾向がある。加えて、演算負荷が重くなるためHMDの電池の消費が増加してHMDの使用時間が短くなる傾向があり、どちらもHMDの大型化を招き好ましくない。また、作業現場が地下室等の場合、遠隔装置との通信が困難な状況もありうるため、恒常的にネットワークを介して利用するクラウドストレージ等のリモートストレージを用いる技術も採用しづらい。
このような状況を鑑みると、HMDにおいて記録が必要な情報を取捨選択し、HMDの記憶容量を増加させない手段が有効である。この取捨選択の判断を人が行うと、主観やヒューマンエラー等により記録の抜け漏れが発生しやすい。したがって、人の判断によらず、客観的に必要な状況においてHMDに搭載したカメラによる映像記録を行えることが大切である。
図1は、本発明の第一の実施形態に係る映像記録装置の構成例を示す図である。映像記録装置1000は、ヘッドマウントディスプレイとして実装されるが、これに限られず、いわゆるスマートフォンやタブレット装置として実装されてもよい。映像記録装置1000には、ヘッドマウント部1と、コントローラ2と、が含まれる。ヘッドマウント部1には、カメラ11、表示部16が含まれる。カメラ11は、所定の画角で可視光映像を取得することで、動画および静止画を取得することができる。表示部16は、例えばガラスやプラスチック等の可視光に対して透明に近い物質で形成された透過型ディスプレイである。装着者の目40の視界内に表示部16が写り込むように配置されても、表示部16は、装着者の視野を妨げずに情報を透過的に提示する。
コントローラ2には、判定部12と、閾値情報格納部13と、記憶部14と、制御部15と、無線通信部17と、I/F18と、が含まれる。無線通信部17は、外部無線通信部100を介してネットワーク接続されるクラウドサーバ200と遠隔通信が可能である。I/F18は、外部センサ3と、マイク30と、リモコン31と、スピーカ32と接続可能な接続部である入力インターフェースである。
外部センサ3が取得した周囲の各種の環境情報は、I/F18を介し、判定部12に入力される。判定部12は、外部センサ3が取得した環境情報と、閾値情報格納部13のデータと、に応じた判定を行い、判定の結果に応じた制御信号である異常判定信号または正常判定信号を制御部15に出力する。閾値情報格納部13には、外部センサ3が取得する周囲の各種の環境情報について、正常値の範囲と異常値の範囲の境界を示す閾値が格納されている。
制御部15は、判定部12の出力信号に応じ、カメラ11へ所定の命令を行う。例えば、その命令には、カメラ11の起動、映像転送要求等が含まれる。また、制御部15はカメラ11から取得した静止画もしくは動画を、判定部12の出力信号に応じ記憶部14に格納する。記憶部14は、静止画あるいは動画のデータを格納する。
制御部15は、カメラ11の映像、作業情報、もしくは外部センサ3の取得データ等から画像を生成し、表示部16へ出力させる。
また、制御部15は、無線通信部17から取得したデータから、閾値情報格納部13のデータを書き換える。また、制御部15は、カメラ11の映像、記憶部14のデータを取得し無線通信部17に出力する。
また、制御部15は、表示部16にカメラ11が取得した静止画あるいは動画だけでなく、例えば作業情報データ、装着者への周知情報を表示させてもよい。作業情報データには、例えば作業工程、図面、過去の作業記録等が含まれる。装着者への周知情報には、閾値情報格納部13の閾値の変更情報等、HMDのパラメータの変更時にユーザに知らせる目的で情報を表示してもよい。その際は、表示部16は、装着者に対し変更をしてもよいか確認する画面を表示し、ユーザが変更を承認もしくは拒否するような対話型の表示を行う。
無線通信部17は、外部無線通信部100との間で、通信を無線で行う。通信規格としては、例えばWiFi(登録商標)やBluetooth(登録商標)を用いる。外部無線通信部100は、無線通信部17から受信したデータをクラウドサーバ200に送信する。クラウドサーバ200は、遠隔管理者側の情報処理装置であり、遠隔管理者側から装着している作業者のHMDに対して接続し、映像や音声の共有、設定値の変更、データ等の取得を行う。外部無線通信部100が無線通信部17から受信するデータは、カメラ11の静止画あるいは動画でもよいし、外部センサ3が取得した環境情報でもよい。
また、外部無線通信部100は、クラウドサーバ200から受信したデータを無線通信部17に送信する。無線通信部17が受信したデータが閾値情報の変更の場合、制御部15は、閾値情報格納部13に閾値情報を出力して更新させる。
リモコン31は、HMDを操作する指示を受け付ける遠隔操作装置である。例えば、表示部16において表示された選択肢のカーソル移動や選択する指示を受け付ける。なお、リモコン31は、例えば外部センサ3と一体化された構造であってもよい。例えば、外部センサ3が接写型カメラの場合、その持ち手にいくつかのハードウェアボタンが入力操作用に設けられているものであってもよい。
図2は、映像記録装置の別の構成例を示す図である。この構成例では、外部センサ3が外部無線通信部101を備える。外部無線通信部101は、図1に示した外部無線通信部100と同様に、通信規格としては、例えばWiFiやBluetoothを用いる。この場合、制御部15は、外部センサ3から外部無線通信部101、無線通信部17を介して送信されたデータを判定部12に出力する。このような形を取ることで外部センサ3は有線、無線を介して接続しても、ともに同様の機能を実現できる。
図3は、映像記録装置の装着時の外観の例を示す図である。作業支援では、作業者400はヘルメットを被ることが多いため、ヘルメットに映像記録装置1000を接続した例を示している。
作業者400は、頭部にヘルメット300を被っているものとする。ヘルメット300には、固定治具310および固定治具310から伸びる撓曲自在のフレキシブルアーム320が設けられている。フレキシブルアーム320は、ヘッドマウント部1と接続され、ヘッドマウント部1を所定の位置で支持している。
ヘッドマウント部1のカメラ11は、作業者400の目40の視線方向と略並行に、すなわち同一方向に向けられて設置される。コントローラ2はヘルメット300に組付けられている。ヘッドマウント部1の表示部16は、作業者400の目40に対し視線が交差するよう調整されてフレキシブルアーム320により支持される。
図3に示すように、ヘッドマウント部1の支持は、ヘッドマウント部1の所定の二箇所、もしくはそれ以上の多点で行う。一箇所の支持では、その支持部を支点として多方向に回転しやすくなるため、作業者400の目40と表示部16の位置関係がずれやすくなる。位置がずれると、作業者400から見て映像の欠けやぼやけが発生するため、視認性の低下につながってしまう。二箇所以上の多点で支持すると、ヘッドマウント部1は回転しにくくなるため視認性低下の抑制が可能である。
支持位置は、ヘッドマウント部1の表示部16と対向する端部、及びヘッドマウント部1がL字に折れ曲がる箇所の二箇所が有効である。そのような位置で支持することで、カメラ11の視界を遮らず、かつ作業者400の目40の視界にも影響を避けることができる。
外部センサ3は、作業者400が手に持って測定対象に近づけることを想定している。そのため、外部センサ3は、ヘッドマウント部1およびコントローラ2とは別体であり、有線または無線の通信路を介してコントローラ2の接続部であるI/F18と接続される。なお、I/F18は、有線接続であれば、USB(Universal Serial Bus)、AUX(Auxiliary)等の各種の有線通信規格を用いることができる。
外部センサ3には、例えば温度センサ、湿度センサ、赤外線カメラ、可視光カメラ、TOF(Time of Flight)カメラ、加速度センサ、放射線量センサ、ガスセンサ等を用いることができる。図3ではコントローラ2から有線で外部センサ3に接続する例を示したが、図2のように外部センサ3に外部無線通信部101を備えさせ、コントローラ2と無線通信により接続するようにしてもよい。
図4は、ヘッドマウント部1の構造例を示す図である。ヘッドマウント部1には、樹脂等により形成された棒状の支持部材の先に略L字型(厳密に直角でなくともよい)に接続されるカメラ11と、表示部16と、が含まれる。表示部16は、作業者400の目40の視線方向40´が透過する位置に設けられる。また、カメラ11は、視線方向40´と略並行に撮影中心線が設けられる。しかし、これに限られず、カメラ11は、視線方向40´と略並行な視野方向を撮像するものであれば良く、例えば人の目よりも広い画角を備えるものであってもよい。
図5は、制御部の内部構造の例を示すブロック図である。制御部15には、作業情報格納部151と、画像取得部152と、画像処理部153と、画像データ転送部154と、が含まれる。
作業情報格納部151には、作業情報が格納される。作業情報とは、作業を所定の工程に分けて、それぞれの作業に関するポイントとなる操作や重要な映像記録を記録すべきタイミングを特定する情報に関連づけた情報であり、様々なデータ形式をとり得る。作業情報格納部151は、画像処理部153からの要求に応じて、作業情報を受け渡す。また、無線通信部17から更新指示とともに作業情報を受け付けると、作業情報格納部151は作業情報を更新する。
画像取得部152は、判定部12の判定結果の信号に応じ、カメラ11に画像転送要求を行って画像(静止画、動画を含む)を取得する。そして、画像取得部152は、取得した画像を画像処理部153へ受け渡す。
画像処理部153は、画像取得部152で取得した画像データがあればそのデータと、判定部12から出力された外部センサ3(外部センサ3がカメラである場合)の画像データがあればそのデータと、作業情報格納部151の作業情報と、を用いて、表示部16に出力する画像を生成する。外部センサ3により検出された値が異常状態である場合には、画像処理部153は、表示部16に異常状態が発生した旨のテキストデータを合成(例えば、重畳)表示してもよい。このテキストデータの重畳表示処理の詳細については、後述する。
画像データ転送部154は、画像取得部152から、判定部12の判定データに応じたカメラ11への画像転送要求が行われると、画像処理部153で生成した画像データを、記憶部14に転送する。例えば、判定部12から出力された判定データが、0(GNDレベル)の場合、画像データ転送部154はデータ転送を行わないが、判定データが1(電源レベル)の場合には、画像データ転送部154は記憶部14にデータ転送を行う。この場合、記憶部14に転送するデータは、動画でも静止画でもよいし、カメラ11の映像に作業表示、異常状態表示を重畳させてもよい。このように判定データが0、1のいずれかである場合の例を示したが、判定部12と画像取得部152、画像データ転送部154との間で互いに所定のコマンドによる制御を行ってもよい。作業情報格納部151は、無線通信部17から受信したデータにより作業情報を更新してもよい。
図6は、画像処理部の内部構造の例を示すブロック図である。画像処理部153には、画像生成部1531と、テキストデータ保持部1532と、が含まれる。テキストデータ保持部には、「正常」、「異常」、「カメラ記録開始」、「外部センサの位置を表示中央に合わせてください」、「記録中」等の各種メッセージ情報が、作業情報の工程に応じて格納される。
図7は、テキストデータ保持部のデータ構造例を示す図である。テキストデータ保持部1532には、工程No1532Aごとに、データ1532B(表示条件)と、テキスト1532Cと、数値情報1532Dと、が対応付けて記憶されている。
データ1532Bは、テキスト1532Cを表示させるのに外部センサ3の出力に条件がある場合に、その条件を示す。例えば、「最適範囲20度-35度」、「異常範囲T<20度,35度<T」等の温度センサの検出値の条件等である。テキスト1532Cには、作業者へのメッセージを主とするテキスト情報が格納される。数値情報1532Dには、表示させる位置の座標を数値で指定する場合にその座標を特定する情報である。
図6の説明に戻る。画像生成部1531は、作業情報格納部151の作業情報と、判定部12を介して受け付ける外部センサ3のデータと、テキストデータ保持部1532から読み出した工程のテキストデータと、画像取得部152から取得したカメラ11の取得画像と、を用いて重畳させた画像を生成し、画像データ転送部154へ受け渡す。
例えば、画像生成部1531は、外部センサ3の検出値が正常時には、外部センサ3のデータと、該データの最適範囲に応じたテキスト(「正常」等)を画像として生成し、画像データ転送部154へ受け渡す。外部センサ3の検出値が異常時には、画像生成部1531は、画像取得部152から取得したカメラ11の取得画像に、外部センサ3のデータと、該データの異常範囲に応じたテキスト(「異常」等)を重畳させて画像として生成し、画像データ転送部154へ受け渡す。
そして、画像生成部1531は、続くメッセージテキスト「カメラ記録開始」を重畳させて表示し、その後「外部センサの位置を表示中央に合わせてください」と重畳させて、数値情報1532Dの座標に表示中央に相当するガイドを表示させる。そして、外部センサ3の位置が表示中央に合うと、画像生成部1531は、「記録中」というメッセージテキストを重畳させて表示させる。なお、表示中央の範囲に外部センサの位置が合ったか否かは、外部センサ3が有する特定の情報(光量や記号、文字等の刻印、色のパターン、熱のパターン、音のパターン等)が規定の条件を満たすか否かを、画像生成部1531が判定することにより実現できる。
図8は、判定部の内部構造の例を示すブロック図である。判定部12は、比較器121と、バッファ122と、を含む。比較器121は、I/F18を介し受信した外部センサ3のデータと、閾値情報格納部13の閾値と、を比較し、判定データを出力する。例えば、比較器121は、外部センサ3のデータが閾値情報より小さい場合には、「0(GNDレベル)」を判定データとして出力する。外部センサ3のデータが閾値情報より大きい場合には、比較器121は、「1(電源レベル)」を判定データとして出力する。
先述したとおり、判定データは「0」、「1」レベルだけでなく、比較器121がMCU(Micro Control Unit)等の内部機能ブロックとして構成されている場合、制御部15とコマンドでデータのやり取りを行ってもよい。バッファ122は、外部センサ3が取得したデータをバッファリングし制御部15に出力する。
図9は、閾値情報格納部のデータ構造例を示す図である。閾値情報格納部13には、工程No13Aごとに、閾値13Bが対応付けられている。すなわち、工程ごとの外部センサ3の正常/異常を分かつ閾値が格納されている。
図10は、映像記録装置の使用状態の例を示す図である。図10には、映像記録装置1000を備えるヘルメット300を装着した作業者400が盤作業を行っており、外部センサ3を対象の盤に接触させている状態が描かれている。ここでは外部センサ3を対象の盤に接触させる形で例示したが、非接触で測定してもよいし、盤に備わっている外部センサ3と通信してデータを取得する形としてもよい。温度センサを外部センサ3として用いる例を挙げながら、以下に映像記録装置1000のモニタ処理の説明を行う。
図11は、HMDの表示画面の遷移例を示す図である。外部センサ3で検出したデータの異常判定結果に応じて、正常時の表示画面の遷移と、異常時の表示画面の遷移と、が示されている。
正常時の表示画面110では、外部センサ3で取得したデータと、判定結果の「正常」のメッセージテキストと、判定基準の閾値と、が重畳表示される。作業者400の目40からは、これらの重畳表示されるテキスト以外は、透過して通常の視界を得られる。判定基準の閾値を表示する目的は、正常な範囲内でも異常に近い可能性を作業者400に気づかせるためである。故障や事故を未然に防ぐため、同時に過去の温度データの遷移等を表示すようにしてもよい。
異常時の表示画面111では、外部センサ3で取得したデータと、判定結果の「異常」のメッセージテキストと、判定基準の閾値と、「カメラ記録開始」のメッセージテキストが重畳表示される。作業者400の目40からは、これらの重畳表示されるテキスト以外は、透過して通常の視界を得られる。
そして、遷移後の記録準備画面112では、外部センサ3で取得したデータと、判定結果の「異常」のメッセージテキストと、判定基準の閾値と、「外部センサの位置を表示中央に合わせて下さい」のメッセージテキストおよび表示中央のガイド112Aが重畳表示される。作業者400の目40からは、これらの重畳表示されるテキスト以外は、透過して通常の視界を得られる。
そして、記録開始後の記録中画面113では、外部センサ3で取得したデータと、判定結果の「異常」のメッセージテキストと、判定基準の閾値と、「記録中」のメッセージテキストが重畳表示される。作業者400の目40からは、これらの重畳表示されるテキスト以外は、透過して通常の視界を得られる。
カメラ11は、所定時間を越えれば記録を停止してもよいし、異常状態が発生した際に、遠隔側から記録時間を決めて指示するようにしてもよい。記録を継続する時間は、例えば作業情報格納部151の各工程において対応付けておくようにし、遠隔側からの書換えは作業情報格納部151の工程の情報を書き換えるようにしてもよい。また、異常状態が発生した際は遠隔の管理者に自動的に連絡する仕組みとしてもよい。連絡には、例えば固定テキストを管理者に自動送信する、自動的に電話(音声チャット等でもよい)をかけ、状況をすぐに伝えられる環境としてもよい。
図12は、モニタ処理のフローチャートの例を示す図である。モニタ処理は、映像記録装置1000に電源が投入されると、開始される。
まず、異常温度であるか否かを判定する(ステップS001)。具体的には、判定部12は、外部センサ3が検出した温度が異常であるか否か、閾値情報格納部13から情報を取得して閾値との比較により判定する。正常温度の場合(ステップS001にて「No」の場合)には、判定部12は、ステップS001を継続して実施する。
異常温度の場合(ステップS001にて「Yes」の場合)には、画像処理部153は、「カメラ記録開始」とのメッセージテキストを表示させる(ステップS002)。具体的には、画像生成部1531は、異常時の表示画面111を作成して、表示部16に表示させる。
そして、画像処理部153は、外部センサの位置を見るよう促す表示を行う(ステップS003)。具体的には、画像生成部1531は、記録準備画面112を作成して、表示部16に表示させる。
そして、画像処理部153は、カメラ中央に外部センサが有るか否か判定する(ステップS004)。具体的には、画像生成部1531は、表示中央の範囲に外部センサの検知対象の位置が表示中央に合ったか否かについて、外部センサ3の検知する対象が有する特定の情報(温度センサに設けられた刻印パターン)が規定の条件を満たすか否かを、画像生成部1531が判定することにより判定する。カメラ中央に外部センサが無い場合(ステップS004にて「No」の場合)には、画像処理部153は、制御をステップS003に戻す。
カメラ中央に外部センサが有る場合(ステップS004にて「Yes」の場合)には、画像処理部153は、「記録中」とのメッセージテキストを表示させる(ステップS005)。具体的には、画像生成部1531は、記録中画面113を作成して、表示部16に表示させる。
そして、カメラ11は、記録時間が所定時間を越えたか否か判定する(ステップS006)。記録時間が所定時間を越えていない場合(ステップS006にて「No」の場合)には、カメラ11は、ステップS006の判定を行う。
記録時間が所定時間を越えた場合(ステップS006にて「Yes」の場合)には、カメラ11は、記録を終了する(ステップS007)。
以上が、映像記録装置1000のモニタ処理のフローである。モニタ処理によれば、温度センサの検出値が異常であるか否か判定し、異常時にはカメラ11による映像を適切に記録することができる。
図11および12に示した例では、外部センサ3に温度センサを用いた。しかし上述のようにこれに限られるものではなく、温度センサ以外にも様々なセンサを用いることができる。図13~図15では、外部センサ3に可視光カメラを用いた例を示す。
図13は、外部センサに可視光カメラを用いた場合の利用例を示す図である。作業者400は、外部センサ3を対象の盤に向け、撮像する。対象の盤には作業工程の番号(例えば、図13内の「211ABC-DE」)、AR(Augmented Reality)マーカ、盤の名称のテキスト等が表記されていることを想定している。例えば作業工程の番号を読み取ると、記録を残しておくべき作業工程である場合(例えば不具合が多い、過去に事故を起こした等)、カメラ11による映像の記録を開始する。
各作業工程で問題となりやすい場所は事前に判明しうるため、映像記録装置1000は、そのような指定位置を重点的に見るように作業者400の視線を誘導する表示を行う。例えば、盤内の1番目のブレーカを見るように促す表示を表示部16に出力させ、1番目のブレーカが映像内の指定位置(例えば、表示中心)に位置したことを検出すると、指定位置にカメラ11の中央が調整されたと認識する。通常は、各ブレーカには固有の番号の記載があるため、文字を認識することで対象のブレーカを特定することが可能である。
記録開始後は、映像記録装置1000は、図11の記録中画面113と同様に、「記録中」と表示部16に出力する。記録時間が所定時間を越えた場合には、撮像を停止してもよいし、遠隔側のクラウドサーバ200から撮影時間の更新が為されるのであればそれに従った記録時間としてもよい。
図14は、外部センサを用いた文字認識の際のHMD上の補助表示例を示す図である。表示部16の画面500に、外部センサ3で文字を撮像する位置を明示する枠500Aを表示することは、作業者400にとって指示が明確になり、作業を迷わせないためにも有効である。また、精度の高い文字認識の方法として、データのリストと、外部センサ3で撮像した映像から認識した文字と、を比較する方法が有効である。作業現場では盤上の番号や作業番号等は全てデータとして作業情報内に格納されており、認識した文字と、作業情報内のデータリストを照合し、類似する文字列を選択することで、精度のよい文字認識を行うことができる。
図15は、工程モニタ処理のフローチャートの例を示す図である。工程モニタ処理は、外部センサに可視光カメラを用いた場合に、映像記録装置1000に電源が投入されると、開始される。
まず、対象作業であるか否かを判定する(ステップS101)。具体的には、判定部12は、外部センサ3が検出したブレーカが作業対象物であるか否か、作業情報格納部151から情報を取得して作業情報との比較により判定する。対象作業でない場合(ステップS101にて「No」の場合)には、判定部12は、ステップS101を継続して実施する。
対象作業の場合(ステップS101にて「Yes」の場合)には、画像処理部153は、「カメラ記録開始」とのメッセージテキストを表示させる(ステップS102)。具体的には、画像生成部1531は、「カメラ記録開始」とのメッセージテキストを重畳させた表示画面を作成して、表示部16に表示させる。
そして、画像処理部153は、指定位置を見るよう促す表示を行う(ステップS103)。具体的には、画像生成部1531は、枠500Aを含む画面500を作成して、表示部16に表示させる。
そして、画像処理部153は、指定位置にカメラ中央が有るか否か判定する(ステップS104)。具体的には、画像生成部1531は、表示中央の範囲にカメラ11の視野の中央が有るか否かを判定する。指定位置にカメラ中央が無い場合(ステップS104にて「No」の場合)には、画像処理部153は、制御をステップS103に戻す。
カメラ中央に外部センサが有る場合(ステップS104にて「Yes」の場合)には、画像処理部153は、「記録中」とのメッセージテキストを表示させる(ステップS105)。具体的には、画像生成部1531は、「記録中」のメッセージテキストを表示部16に表示させる。
そして、カメラ11は、記録時間が所定時間を越えたか否か判定する(ステップS106)。記録時間が所定時間を越えていない場合(ステップS106にて「No」の場合)には、カメラ11は、ステップS106の判定を行う。
記録時間が所定時間を越えた場合(ステップS106にて「Yes」の場合)には、カメラ11は、記録を終了する(ステップS107)。
以上が、映像記録装置1000の工程モニタ処理のフローである。工程モニタ処理によれば、外部センサ3を用いて工程作業であるか否か判定し、工程作業であればカメラ11による映像を適切に記録することができる。
ここで、非常に小さい文字を認識する処理においては、映像記録装置1000は、外部センサ3により撮影した映像に限られず、カメラ11が取得した映像を用いて文字認識を行ってもよい。
また、盤内のブレーカの文字が非常に小さい場合、あるいは狭い場所に文字が記載されている場合、HMDのカメラ11では解像しきれず文字認識に十分な映像を得られない場合がある。
そのため、外部センサ3により撮影した映像を用いて文字認識を行い、対象作業か否かを認識した後には、カメラ11、外部センサ3の両方ともを用いて同時に記録を行うようにしてもよい。この場合、カメラ11は作業者の視線方向の視野を取得して全体像の把握が容易になるとともに、適切な作業をしているか遠隔のクラウドサーバ200を介して管理者側から確認できる。外部センサ3の映像は、接写の映像として、対象文字の認識と詳細な映像記録の取得を行う。
このように同時に記録を行うか否かの判断のための情報は、盤内の対象の文字が小さいことがあらかじめ分かっている場合には、作業情報格納部151に格納しておけばよい。この際に使用する外部センサ3は、特に、カメラ11に対し画角が狭く、焦点距離が短い可視光カメラとしてもよい。カメラ11は人の視線映像を撮影することが目的のため、ある程度の画角が必要となるが、外部センサ3は狭い画角、短い焦点距離のカメラの構成を取ることができ高解像な撮像ができる。そのような構成にすることで、カメラ11と同じ解像度のイメージセンサを使用したとしても、カメラ11より高解像な画像を撮像でき、文字や図面の認識が容易となる。
また、暗い場所での撮像を想定し、外部センサ3にはセンサ検出部分を照らすようにLED(Light Emitting Diode)等の明かりを併設してもよい。また、リモコン31を、HMDの作業工程の切替え操作用に設けるようにしてもよい。もしくは、外部センサ3とリモコン31および明かりを一体化した構造にしてもよい。狭い場所の観測のためには、外部センサ3を細長いペン型の構造として、その先端に検知部分を設け、LEDによりその先端部分を照らし、持ち手にハードボタンを設けてリモコン31とする構造が好ましい。
遠隔の管理者が用いるクラウドサーバ200との間でカメラ11及び外部センサ3の映像を共有する場合、遠隔の管理者が見るモニタには、カメラ11及び外部センサ3の両方の映像を映してもよい。また2つの映像のうち、主として見たい映像ではない方の映像は、映像記録装置1000において解像度を落としてクラウドサーバ200へ送信するようにしてもよい。映像の解像度を落とすことで、無線通信部17と外部無線通信部100間の通信量を減らせるため、画像遅延や消費電力を抑制する効果を得られる。
以上は、外部センサ3に可視光カメラを用いた例を示した。しかし、可視光カメラに限られず、IR(Infrared)カメラや、その他のカメラであってもよい。またTOF(Time-Of-Flight)カメラを用い、距離画像を取得することで、3次元データを取得し、対象物の変形や、動的な機構をもつ装置(例えばロボット)の異常な動作等を検知し、カメラ11の記録を行うようにしてもよい。あるいは、照度センサを用いて、明るさが足りない場合に記録を行ってもよい。例えば装置のランプ照度の減少を検出し、対象のランプを記録しておき、適切な交換を行う作業に繋げることができる。
図16は、外部センサの収納構造の例を示す図である。ここでは、有線接続された外部センサ3をコントローラ2に格納する場合の収納構造の例が示されているが、有線接続された外部センサ3に限られず、無線接続された外部センサ3であっても、同様に収納可能である。
外部センサ3は、コントローラ2上の外部センサ固定部材340で固定されており、コントローラ2上の接触検知センサ330で外部センサ3が接触しているか否か検知可能である。
図17は、接触検知センサの接続例を示すブロック図である。この例は、基本的に図5に示した映像記録装置の構成例と同様であるが、一部に相違がある。相違点を中心に、以下に説明する。
図17の接続例では、制御部15に起動信号生成部155が含まれる点と、作業情報格納部151と起動信号生成部155とが接続されている点、および接触検知センサ330がコントローラ2に含まれる点が異なる。
接触検知センサ330で検知した結果を示す信号は、制御部15内の起動信号生成部155に入力される。該信号が接触状態を示す信号であれば起動信号生成部155は信号レベルを0(GNDレベル)に保持する。すなわち、この場合には外部センサ3は外部センサ固定部材340に固定されていることを示し、映像記録装置1000はスリープ状態(スタンバイ状態)である。
非接触状態を示す信号であれば起動信号生成部155は信号レベル1(電源レベル)を出力し、I/F18を介し、起動信号を外部センサ3に出力し起動させる。信号レベルは外部センサ3の仕様に合わせ、信号レベルで変更してもよいし、コマンドのやり取りで変更してもよい。また信号レベルは1(電源レベル)で起動としたが、逆極性とし0(GND)レベルで起動としてもよい。すなわち、起動信号生成部155が状態の切替えを検知し、外部センサ3に適切な信号を出力する構成であればよい。
また、接触検知センサ330には、照度センサや近接センサ等を用いることができる。しかし、これに限られず、外部センサ固定部材340に接続されていることが検知できるものであればよい。もちろん、外部センサ3側に接触検知センサ330を設ける構成でもよい。
また、作業手順に応じ外部センサ3を有効化してもよい。起動信号生成部155では、作業情報格納部151の情報を受信し、外部センサ3が不要な作業工程では無効化しておき、誤って作業者が外部センサ3を外部センサ固定部材340から外した際に起動させないようにしておくこともできる。このような構成を取ることで、誤検出の防止や消費電力の抑制を実現できる。
また、撮像、記録した映像情報を用いて、作業員が適切な作業をしているか検出、記録するようにしてもよい。
図18は、装着者の視線方向を検出するカメラの構成例を示す図である。図18は、ヘッドマウント部1を装着した作業者400の目40の近傍(左目付近)600を正面から見た状態を示す。
図19は、装着者の視線方向を検出するカメラの構成例を示す図である。図19は、ヘッドマウント部1を装着した作業者400の目40の近傍(左目付近)600を側面(左面)から見た状態を示す。
カメラ11は、広角(画角θ:例えば、240度)で撮像視野を持つレンズを有しており、ヘッドマウント部1の表示部16から下方へ突出する形で設置されている。そして、カメラ11の撮像視野には、装着者の視線の方向に加え、装着者の目40自体が含まれる。このような構成にすることで、視線方向を正確に検出し、作業者400が作業を適切に行っているか正確に検出することができる。
なお、これに限られず、他のセンサと併用して作業動作の検出を行ってもよい。例えば、加速度センサにより頭の動きを検出可能なため、作業者400の視線方向を仮定し適切なアラートを提示することができる。
図20は、盤作業のアラートの表示例を示す図である。表示部16の表示例700では、作業工程1(601A)、作業工程2(601B)、作業工程3(601C)が順に示されており、その順序で作業を行うことが示されている。
この状態で、作業者400が注視している作業工程がその作業順序と異なる場合に、表示部16は警告表示710を重畳して表示する。例えば、作業工程1が終わったが作業工程2は終わっておらず、作業者400が作業工程3(601C)の表示を注視している時間が長い場合には、作業工程3を実施している可能性が高い。その場合「作業工程2を実施してください」、のような警告表示710を行うと、作業ミス低減に有効である。
作業者400が表示部16上の所定位置の注視を検出するには、例えばカメラ11で撮影している際に、撮像視野の視線方向にある作業対象物が作業すべき順序の対象物と相違し、その観測時間(滞留時間)が所定値を越える(滞留する)と誤った作業対象を注視していると検出する。さらに視線方向を正確に特定するために、作業者400の目40を上述の視線方向を検出するカメラ11で撮影し、座標変換により黒目の向きを特定して視線方向とみなすことが有効である。
図21は、加速度センサを用いる判定部の内部構造の例を示すブロック図である。外部センサ3に3軸加速度センサを用いた場合には、X軸、Y軸、Z軸の3軸の加速度の値をI/F18は取得する。この場合、閾値情報格納部13´には、これら3軸の加速度の値を保持しなければならず、また異常の判定においてもこれら3軸の加速度の値を自由に用いることができる。
図21の例では、3軸いずれかの軸方向の加速度の変化量について、所定の範囲を超える変動があることを異常として検出する構成例が示されている。判定部12には、X軸用の比較器121Xと、X軸用のバッファ122Xと、Y軸用の比較器121Yと、Y軸用のバッファ122Yと、Z軸用の比較器121Zと、Z軸用のバッファ122Zと、これらの比較器からの判定データを加算する加算器123と、が含まれる。
X軸用の比較器121Xと、Y軸用の比較器121Yと、Z軸用の比較器121Zとは、I/F18からそれぞれの軸の加速度を取得し、閾値情報格納部13´を参照してそれぞれの軸の閾値を読み出して比較を行い、判定データ(0:正常、1:異常)を加算器123へ出力する。
X軸用のバッファ122Xと、Y軸用のバッファ122Yと、Z軸用のバッファ122Zとは、I/F18からそれぞれの軸の加速度を取得し、バッファリングする。また、X軸用のバッファ122Xと、Y軸用のバッファ122Yと、Z軸用のバッファ122Zとは、そのセンサデータを制御部15へ出力する。
加算器123は、X軸用の比較器121Xと、Y軸用の比較器121Yと、Z軸用の比較器121Zとからそれぞれの軸の異常/正常の判定データ(0:正常、1:異常)を取得し、加算する。その結果が1以上であれば、制御部15へ「1(異常検出信号)」を出力し、そうでない場合には「0(GND)」を出力する。
図22は、加速度センサの場合の閾値情報格納部のデータ構造の例を示す図である。閾値情報格納部13´は、工程13A´ごとに、X軸の閾値であるX閾値と、Y軸の閾値であるY閾値と、Z軸の閾値であるZ閾値と、の組み合わせ閾値13B´が対応付けられて格納される。X閾値、Y閾値、Z閾値のそれぞれには、加速度の時系列変化を示すグラフの振幅と周期の正常値の範囲が格納されている。
このようにすることで、加速度センサを用いる判定部を実現でき、例えば作業者の動作に異常行動がないか、あるいは無駄な動作がないか判定し、異常時には自動でカメラ11の映像を記録することができる。
図23は、TOFカメラを用いる判定部の内部構造の例を示すブロック図である。外部センサ3にTOFカメラを用いた場合には、TOFカメラが取得した距離データを伴う画像をI/F18は取得する。
判定部12には、P部位座標用の比較器121Pと、P部位座標用の用のバッファ122Pと、Q部位座標用の比較器121Qと、Q部位座標用の用のバッファ122Qと、R部位座標用の比較器121Rと、R部位座標用の用のバッファ122Rと、これらの比較器からの判定データを加算する加算器123と、部位抽出部124と、P部位座標用の微分器125Pと、Q部位座標用の微分器125Qと、R部位座標用の微分器125Rと、が含まれる。
部位抽出部124は、TOFカメラが取得した距離データを伴う画像をI/F18から取得して、公知のアルゴリズムを用いて予め定められた人体の部位の座標を抽出する。例えば、部位抽出部124は、骨格検出により、頭、肩、腕、手、足等の部位を特定し、距離データと突き合わせて部位毎の3次元座標(x,y,z)を特定する。例えば、部位抽出部124は、P部位を腕、Q部位を手、R部位を足のそれぞれと特定して、それぞれの代表的な1点あるいは複数点の3次元座標を取得する。
P部位座標用の微分器125Pと、Q部位座標用の微分器125Qと、R部位座標用の微分器125Rとは、それぞれの部位ごとに3次元座標を用いて微分処理を行い、部位毎の速度を算出する。
この場合、閾値情報格納部13には、これら部位ごとの速度の値を保持しなければならず、また異常の判定においてもこれら部位ごとの速度の値を自由に用いることができる。
図24は、解像度を下げる制御部の内部構造の例を示すブロックである。外部センサ3が可視光カメラである場合や、TOFカメラ、サーマルカメラ等、映像情報を取得するものである場合には、カメラ11により撮影された映像と外部センサ3により撮影された画像の両方を得られ、上述したようにこれをクラウドサーバ200を介して遠隔から参照することができる。また、遠隔のクラウドサーバを介していずれかまたは両方の画像の解像度を下げる指示を行い、通信量を削減することもできる。さらには、遠隔から作業情報、閾値情報を送信し、更新することもできる。
このような仕組みは、図24に示す内部構造により実現可能である。制御部15の画像処理部153には、解像度変換部15311と、画像重畳部15312と、テキストデータ保持部1532と、が含まれる。
解像度変換部15311は、無線通信部17を経由して対象の画像(外部センサ3の画像と、カメラ11の映像のいずれか)とその解像度データとを受信する。また、解像度変換部15311は、判定部12から外部センサ3の画像と、画像取得部152からカメラ11の映像とを受信しフレームごとに所定の解像度へ変換して画像重畳部15312へ受け渡す。解像度変換部15311は、無線通信部17を経由して対象の画像とその解像度データとを受信すると、以降は対象の画像を受信した解像度に変換して画像重畳部15312へ受け渡す。
無線通信部17を経由して対象の画像とその解像度データとを受信しない場合には、解像度変換部15311は、直前のフレームと同様の解像度を維持する。
画像重畳部15312は、解像度変換部15311から受け付けた画像および映像に、作業情報格納部151の情報とテキストデータ保持部1532の情報とから抽出した必要な情報を重畳させて画像データ転送部154へ受け渡す。
例えば、クラウドサーバ200から、カメラ11の映像を640ドット×480ドットにする指示(カメラ,640,480のパラメータを含む)を受け付けると、解像度変換部15311は、次のフレームからカメラ11の映像を640ドット×480ドットに変換して画像重畳部15312へ受け渡す。このようにすることで、解像度を下げて通信量を減らすことができる。
上述した映像記録装置1000は、コントローラ2内の判定部12および制御部15をCPU(Central Processing Unit)により実現できる。また、閾値情報格納部13は、RAM(Random Access Memory)等の主記憶装置により実現できる。記憶部14は、フラッシュメモリやSSD(Solid State Drive)により実現できる。
なお、これに限られず、映像記録装置1000は、例えばASIC(Application Specific Integrated Circuit)やマイコンで実現されるものであってもよい。
このようにすることで、映像記録装置1000は、作業を阻害せず、限られた記憶領域等のハードウェアリソースで作業状況等を効率よく記録することができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
また、上記した各構成、機能、処理部等は、それらの一部又は全部を、例えば別の装置で実行してネットワークを介して統合処理する等により分散システムで実現してもよい。
また、上記した実施形態の技術的要素は、単独で適用されてもよいし、プログラム部品とハードウェア部品のような複数の部分に分けられて適用されるようにしてもよい。
以上、本発明について、実施形態を中心に説明した。
1・・・ヘッドマウント部、2・・・コントローラ、3・・・外部センサ、11・・・カメラ、12・・・判定部、13・・・閾値情報格納部、14・・・記憶部、15・・・制御部、16・・・表示部、17・・・無線通信部、18・・・I/F、30・・・マイク、31・・・リモコン、32・・・スピーカ、40・・・目、100・・・外部無線通信部、200・・・クラウドサーバ、1000・・・映像記録装置。

Claims (14)

  1. 装着者の視野方向の映像を撮像するカメラと、
    所定の環境情報を検出する外部センサと通信可能に接続する接続部と、
    前記環境情報の異常状態を示す閾値を格納する閾値情報格納部と、
    前記外部センサの検出情報と前記閾値との比較により異常判定信号を出力する判定部と、
    前記異常判定信号に応じ前記カメラに所定の制御信号を出力する制御部と、
    前記カメラ及び前記外部センサからの出力情報を表示する表示部と、を備え、
    前記制御部は、前記異常判定信号が出力されると、前記カメラからの出力情報を所定の記憶部に転送させる制御信号を出力
    前記表示部に前記カメラが記録中であることを表示し、前記装着者が見るべき位置の誘導を表示する、
    ことを特徴とする映像記録装置。
  2. 請求項1に記載の映像記録装置であって、
    前記制御部は、
    該映像記録装置を身につける装着者が行う作業情報を格納する作業情報格納部と、
    前記カメラの出力を画像として取得する画像取得部と、
    前記作業情報と前記画像とを合成した画像を生成する画像処理部と、
    前記記憶部に合成した前記画像を転送する画像転送部と、を備え、
    前記画像転送部は、前記判定部から前記異常判定信号が出力されると、前記記憶部に前記出力情報を転送する、
    ことを特徴とする映像記録装置。
  3. 請求項1に記載の映像記録装置であって、
    前記外部センサは、可視光カメラ、赤外線カメラ、距離計測カメラ、温度センサ、湿度センサ、照度センサ、加速度センサのうち少なくとも1つ以上である、
    ことを特徴とする映像記録装置。
  4. 請求項1に記載の映像記録装置であって、
    該映像記録装置を身につける装着者が行う作業情報を格納する作業情報格納部を備え、
    前記外部センサは、作業の対象に対応した文字またはマーカを認識し、
    前記制御部は、実施中の作業が映像を記録する対象の作業である場合には、前記カメラの前記出力情報を前記記憶部に転送する、
    ことを特徴とする映像記録装置。
  5. 請求項1に記載の映像記録装置であって、
    前記外部センサは、前記カメラより画角が狭く、焦点距離が短い第二のカメラである、
    ことを特徴とする映像記録装置。
  6. 請求項1に記載の映像記録装置であって、
    前記外部センサは、該映像記録装置と有線または無線の通信路を介して接続される、
    ことを特徴とする映像記録装置。
  7. 請求項1に記載の映像記録装置であって、
    前記外部センサは、前記表示部の表示する作業工程を切替え可能な遠隔操作装置と一体構造である、
    ことを特徴とする映像記録装置。
  8. 請求項1に記載の映像記録装置であって、
    前記外部センサとの接触を検出する接触検出センサを備え、
    前記制御部は、前記接触検出センサにより非接触な状態が検出されると、前記外部センサを動作させる信号を出力する、
    ことを特徴とする映像記録装置。
  9. 請求項1に記載の映像記録装置であって、
    前記カメラは、該映像記録装置を身につける前記装着者の前方の視線方向の映像と、該装着者の目と、をともに検出する画角を有する、
    ことを特徴とする映像記録装置。
  10. 請求項1に記載の映像記録装置であって、
    前記カメラは、該映像記録装置を身につける前記装着者の前方の視線方向の映像と、該装着者の目と、をともに検出する画角を有し、
    前記制御部は、該映像記録装置を身につける前記装着者の視線の方向と、視線の滞留時間と、を特定し、
    前記視線の方向と前記視線の滞留時間とが実施中の作業と異なる場合に、前記表示部に実施中の作業工程の実施を促進する表示を重畳表示させる、
    ことを特徴とする映像記録装置。
  11. 請求項1に記載の映像記録装置であって、
    ネットワークを介して他の装置との通信を行う通信部を備え、
    前記閾値情報格納部は、前記他の装置からの指示に応じて前記閾値を書換え可能である、
    ことを特徴とする映像記録装置。
  12. 請求項1に記載の映像記録装置であって、
    作業用のヘルメットに多点で支持される支持部を備える、
    ことを特徴とする映像記録装置。
  13. 請求項1に記載の映像記録装置であって、
    ネットワークを介して他の装置との通信を行う通信部を備え、
    前記制御部は、
    該映像記録装置を身につける前記装着者が行う作業情報を格納する作業情報格納部と、
    前記カメラの出力を画像として取得する画像取得部と、
    前記作業情報と前記画像とを合成した画像を生成する画像処理部と、
    前記記憶部に合成した前記画像を転送する画像転送部と、を備え、
    前記画像転送部は、前記判定部から前記異常判定信号が出力されると、前記記憶部に前記出力情報を転送し、
    前記作業情報格納部は、前記他の装置からの指示に応じて前記作業情報を書換え可能である、
    ことを特徴とする映像記録装置。
  14. 装着者の視野方向の映像を撮像するカメラと、
    所定の環境情報を検出する外部センサと通信可能に接続する接続部と、
    前記環境情報の異常状態を示す閾値を格納する閾値情報格納部と、
    前記外部センサの検出情報と前記閾値との比較により異常判定信号を出力する判定部と、
    前記異常判定信号に応じ前記カメラに所定の制御信号を出力する制御部と、
    前記カメラ及び前記外部センサからの出力情報を表示する表示部と、を備え、
    前記制御部は、前記異常判定信号が出力されると、前記カメラからの出力情報を所定の記憶部に転送させる制御信号を出力
    前記表示部に前記カメラが記録中であることを表示し、前記装着者が見るべき位置の誘導を表示する、
    ことを特徴とするヘッドマウントディスプレイ。
JP2019030441A 2019-02-22 2019-02-22 映像記録装置およびヘッドマウントディスプレイ Active JP7058621B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019030441A JP7058621B2 (ja) 2019-02-22 2019-02-22 映像記録装置およびヘッドマウントディスプレイ
US16/711,777 US10992909B2 (en) 2019-02-22 2019-12-12 Video recording device and head mounted display
CN201911378738.0A CN111614919B (zh) 2019-02-22 2019-12-27 影像记录装置以及头戴式显示器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019030441A JP7058621B2 (ja) 2019-02-22 2019-02-22 映像記録装置およびヘッドマウントディスプレイ

Publications (2)

Publication Number Publication Date
JP2020137000A JP2020137000A (ja) 2020-08-31
JP7058621B2 true JP7058621B2 (ja) 2022-04-22

Family

ID=72141907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019030441A Active JP7058621B2 (ja) 2019-02-22 2019-02-22 映像記録装置およびヘッドマウントディスプレイ

Country Status (3)

Country Link
US (1) US10992909B2 (ja)
JP (1) JP7058621B2 (ja)
CN (1) CN111614919B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12014612B2 (en) 2014-08-04 2024-06-18 LiveView Technologies, Inc. Event detection, event notification, data retrieval, and associated devices, systems, and methods
US11495102B2 (en) * 2014-08-04 2022-11-08 LiveView Technologies, LLC Devices, systems, and methods for remote video retrieval
WO2018078857A1 (ja) 2016-10-31 2018-05-03 日本電気株式会社 視線推定装置、視線推定方法及びプログラム記録媒体
CN112446965A (zh) * 2020-12-04 2021-03-05 上海影创信息科技有限公司 Vr眼镜的延时检测安全防护方法和系统及其vr眼镜
WO2023119966A1 (ja) * 2021-12-24 2023-06-29 株式会社Nttドコモ ウェアラブル装置
WO2023188951A1 (ja) * 2022-03-28 2023-10-05 株式会社サンタ・プレゼンツ 遠隔指示システム
JP7406038B1 (ja) * 2023-09-19 2023-12-26 株式会社日立パワーソリューションズ 作業支援システム及び作業支援方法

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000270347A (ja) 1999-03-17 2000-09-29 Sharp Corp 記録装置、及び該記録装置を用いた監視システム
JP2006319440A (ja) 2005-05-10 2006-11-24 Shimadzu Corp ヘッドマウントディスプレイ
JP2008185609A (ja) 2007-01-26 2008-08-14 Sony Corp 表示装置、表示方法
JP2008227834A (ja) 2007-03-12 2008-09-25 Osaka Univ 頭部搭載型映像提示装置、頭部搭載型撮影装置、及び頭部搭載型映像装置
JP2011015831A (ja) 2009-07-09 2011-01-27 Shimadzu Corp ヘッドモーショントラッカ装置
JP2011248860A (ja) 2010-04-28 2011-12-08 Ns Solutions Corp 情報処理システム、情報処理方法及びプログラム
JP2013097466A (ja) 2011-10-28 2013-05-20 Hitachi Ltd 作業支援システム、作業支援方法、および、作業用端末
JP2014011624A (ja) 2012-06-29 2014-01-20 Nikon Corp 情報入出力装置、及び頭部装着表示装置
JP2014211763A (ja) 2013-04-18 2014-11-13 オムロン株式会社 作業管理システムおよび作業管理方法
JP2015226233A (ja) 2014-05-29 2015-12-14 株式会社小糸製作所 車両用外部監視装置の撮像装置
JP2017016056A (ja) 2015-07-06 2017-01-19 セイコーエプソン株式会社 表示システム、表示装置、表示装置の制御方法、及び、プログラム
JP2017032741A (ja) 2015-07-31 2017-02-09 Necプラットフォームズ株式会社 表示装置、表示制御方法、及びそのためのプログラム
JP2017182487A (ja) 2016-03-30 2017-10-05 Kddi株式会社 システム、情報処理装置、ヘッドマウント装置、及び方法
JP2018055370A (ja) 2016-09-28 2018-04-05 株式会社デンソー 検査装置
JP2018181232A (ja) 2017-04-21 2018-11-15 ファナック株式会社 工場設備の保守支援装置及び保守支援システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08255044A (ja) * 1995-03-17 1996-10-01 Fujitsu Ltd キーボード入力及びペン入力可能な情報処理装置
JP2007114992A (ja) * 2005-10-20 2007-05-10 Fuji Electric Holdings Co Ltd 現場作業者監視システム、そのプログラム
JP5333477B2 (ja) 2011-02-14 2013-11-06 日本電気株式会社 現場作業支援システム、装置、方法及びプログラム
JP2012239068A (ja) * 2011-05-12 2012-12-06 Hitachi Kokusai Electric Inc 監視システム及び監視方法
WO2015107928A1 (ja) * 2014-01-17 2015-07-23 ソニー株式会社 撮影システム、警告発生装置および方法、撮像装置および方法、並びにプログラム
JP6699658B2 (ja) * 2015-04-22 2020-05-27 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US10159411B2 (en) * 2015-06-14 2018-12-25 Facense Ltd. Detecting irregular physiological responses during exposure to sensitive data
JP6679856B2 (ja) * 2015-08-31 2020-04-15 カシオ計算機株式会社 表示制御装置、表示制御方法及びプログラム

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000270347A (ja) 1999-03-17 2000-09-29 Sharp Corp 記録装置、及び該記録装置を用いた監視システム
JP2006319440A (ja) 2005-05-10 2006-11-24 Shimadzu Corp ヘッドマウントディスプレイ
JP2008185609A (ja) 2007-01-26 2008-08-14 Sony Corp 表示装置、表示方法
JP2008227834A (ja) 2007-03-12 2008-09-25 Osaka Univ 頭部搭載型映像提示装置、頭部搭載型撮影装置、及び頭部搭載型映像装置
JP2011015831A (ja) 2009-07-09 2011-01-27 Shimadzu Corp ヘッドモーショントラッカ装置
JP2011248860A (ja) 2010-04-28 2011-12-08 Ns Solutions Corp 情報処理システム、情報処理方法及びプログラム
US20130120449A1 (en) 2010-04-28 2013-05-16 Noboru IHARA Information processing system, information processing method and program
JP2013097466A (ja) 2011-10-28 2013-05-20 Hitachi Ltd 作業支援システム、作業支援方法、および、作業用端末
JP2014011624A (ja) 2012-06-29 2014-01-20 Nikon Corp 情報入出力装置、及び頭部装着表示装置
JP2014211763A (ja) 2013-04-18 2014-11-13 オムロン株式会社 作業管理システムおよび作業管理方法
JP2015226233A (ja) 2014-05-29 2015-12-14 株式会社小糸製作所 車両用外部監視装置の撮像装置
JP2017016056A (ja) 2015-07-06 2017-01-19 セイコーエプソン株式会社 表示システム、表示装置、表示装置の制御方法、及び、プログラム
JP2017032741A (ja) 2015-07-31 2017-02-09 Necプラットフォームズ株式会社 表示装置、表示制御方法、及びそのためのプログラム
JP2017182487A (ja) 2016-03-30 2017-10-05 Kddi株式会社 システム、情報処理装置、ヘッドマウント装置、及び方法
JP2018055370A (ja) 2016-09-28 2018-04-05 株式会社デンソー 検査装置
JP2018181232A (ja) 2017-04-21 2018-11-15 ファナック株式会社 工場設備の保守支援装置及び保守支援システム

Also Published As

Publication number Publication date
US10992909B2 (en) 2021-04-27
CN111614919B (zh) 2022-08-23
JP2020137000A (ja) 2020-08-31
US20200275062A1 (en) 2020-08-27
CN111614919A (zh) 2020-09-01

Similar Documents

Publication Publication Date Title
JP7058621B2 (ja) 映像記録装置およびヘッドマウントディスプレイ
CN105666505B (zh) 具备扩展现实对应显示器的机器人系统
US10976836B2 (en) Head-mounted display apparatus and method of controlling head-mounted display apparatus
JP2010271536A (ja) 作業訓練システム及び作業訓練方法並びに該作業訓練方法を記録した記録媒体
JP7064040B2 (ja) 表示システム、及び表示システムの表示制御方法
JP6582921B2 (ja) ロボットモニタシステム
JP2019109850A (ja) 透過型表示装置、表示制御方法、およびコンピュータープログラム
US11763578B2 (en) Head-mounted display, display control method, and program
WO2017122270A1 (ja) 画像表示装置
JP7517803B2 (ja) ロボット教示システム、画像生成方法、及びプログラム
US20210272269A1 (en) Control device, control method, and program
US11137600B2 (en) Display device, display control method, and display system
CN105828021A (zh) 基于增强现实技术的特种机器人图像采集控制方法及系统
JP6319220B2 (ja) 透過型ウェアラブル端末、データ処理装置、及びデータ処理システム
WO2020071144A1 (ja) 情報処理装置、情報処理方法、及びプログラム
CN111565898B (zh) 操作引导系统
JPH04210390A (ja) ロボットハンドの遠隔操作システム
CN108803861B (zh) 一种交互方法、设备及系统
JP2023168746A (ja) 情報処理装置、情報処理システム、情報処理方法、プログラム
JP2022163836A (ja) ロボット画像の表示方法、コンピュータープログラム、及び、ロボット画像の表示システム
JP2016134063A (ja) ウェアラブルコンピューター、コマンド設定方法およびコマンド設定プログラム
JP2020059112A (ja) ロボット制御装置
JP7394046B2 (ja) システム、撮像装置、情報処理装置、情報処理方法および情報処理プログラム
JPS61142085A (ja) 遠隔制御装置
US20240296632A1 (en) Wearable terminal apparatus, program, and display method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220316

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220412

R151 Written notification of patent or utility model registration

Ref document number: 7058621

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151