JP2013016020A - Work support system, apparatus, method, and program - Google Patents

Work support system, apparatus, method, and program Download PDF

Info

Publication number
JP2013016020A
JP2013016020A JP2011148306A JP2011148306A JP2013016020A JP 2013016020 A JP2013016020 A JP 2013016020A JP 2011148306 A JP2011148306 A JP 2011148306A JP 2011148306 A JP2011148306 A JP 2011148306A JP 2013016020 A JP2013016020 A JP 2013016020A
Authority
JP
Japan
Prior art keywords
image
display device
instruction
operator
worker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011148306A
Other languages
Japanese (ja)
Inventor
Yoshiki Koike
良樹 小池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2011148306A priority Critical patent/JP2013016020A/en
Publication of JP2013016020A publication Critical patent/JP2013016020A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a work support system that allows a worker to confirm a visual instruction given from a remote place without looking away from a work object.SOLUTION: A work support system includes a head-mounted display device 1 which can display predetermined information, photographing means 2 which can take a photograph of a visual line direction of a worker fitted with the head-mounted display device 1, and information processor 3. The information processor 3 includes instruction image generation means 5 which generates an instruction image by superposing a predetermined image on the photographed image of the visual line direction of the worker photographed by the photographing means 2 according to the operation of an operator who instructs the worker. The head-mounted display device 1 includes control means 4 which performs control so as to superpose the instruction image on the visual field of the worker when the instruction image generated by the instruction image generation means 5 is displayed.

Description

本発明は、作業支援システム、ヘッドマウントディスプレイ装置、作業支援方法及び作業支援プログラムに関する。   The present invention relates to a work support system, a head mounted display device, a work support method, and a work support program.

通信ネットワークに障害が発生した際には、障害を引き起こしていると考えられる被疑装置を即座に特定し、特定した装置を良好な代替品と交換してしまうことでユーザへの影響を最小に留めることが求められる。このような機器の保守交換の作業においては、一般に、通信ネットワークの監視部門が遠隔地からリモートで被疑装置を特定し、実際に交換作業を行う現地の作業者が監視部門のオペレータからの指示に従って作業を行うという工程が実施される。   When a failure occurs in the communication network, the suspected device that seems to be causing the failure is immediately identified, and the impact on the user is minimized by replacing the identified device with a good replacement. Is required. In such maintenance and replacement work for equipment, generally, the monitoring department of the communication network identifies the suspicious device remotely from a remote location, and the local worker who actually performs the replacement work follows the instructions from the operator of the monitoring department. A process of performing work is performed.

この工程では、オペレータが電話などを用いて口頭で作業者に指示を伝達することが一般的である。そのため、コミュニケーションミスを誘発する可能性や、作業者が正確に指示通りに作業を行っているかオペレータから判断することが難しいといった課題が存在している。   In this process, it is common for an operator to verbally transmit instructions to the worker using a telephone or the like. For this reason, there are problems such as the possibility of inducing a communication error, and it is difficult for the operator to determine whether the operator is working exactly as instructed.

このような課題を解決可能な技術として、例えば特許文献1には、作業を支援することを目的とした技術が記載されている。また、例えば特許文献2には、これらに関連する技術が記載されている。   As a technique capable of solving such a problem, for example, Patent Document 1 describes a technique for supporting work. Further, for example, Patent Document 2 describes techniques related to these.

特開2004−101372号公報JP 2004-101372 A 特開2009−279193号公報JP 2009-279193 A

実際に、遠隔地のオペレータが指示を出す際のコミュニケーションミスや、作業者の不注意などの原因により、故障している装置でなく誤って正常な装置に対して交換作業を行ってしまうことがある。その結果、新たに余計な通信障害を招いてしまうというヒューマンエラーが発生するケースがある。   Actually, replacement work may be mistakenly performed on a normal device instead of a malfunctioning device due to a communication error when an operator at a remote location gives an instruction or carelessness of an operator. is there. As a result, there is a case where a human error occurs that causes an extra communication failure.

また、装置の実装状況がイレギュラーであるために、通常の手順では作業遂行が困難なケースが存在する。この場合には、対象装置の周辺の作業環境をオペレータが全て把握しているとは限らないため、作業者がそれを口頭で伝達してもオペレータに正確に伝えることができないことがある。そのため、作業手順の調整が付かないまま通常の手順で作業を実行してしまい、その結果周辺装置に影響を与えてしまう、という作業エラー発生のリスクも存在している。   In addition, since the device mounting state is irregular, there are cases where it is difficult to perform the work by a normal procedure. In this case, since the operator does not always know the working environment around the target device, even if the operator transmits it verbally, it may not be accurately transmitted to the operator. For this reason, there is a risk of occurrence of a work error that the work is performed in a normal procedure without adjusting the work procedure, and as a result, the peripheral device is affected.

さらに、障害対象装置の原因切り分け作業を遂行していく過程で、当初被疑装置と見られていた装置以外が作業対象となり、作業環境や作業場所が変化するケースが存在する。この場合には、改めて対象装置の交換手順書を作業者に送付し、装置の特定など口頭での指示を最初からやり直す必要がある。そのため、予定を変更するための口頭指示が必要となり、コミュニケーションミスが発生する原因が増えることとなる。それに加え、変更された被疑装置に別途専門の知識を求められる場合には、当初の被疑装置の知識しか有しない作業者が作業に従事していたとすると、変更後の装置の専門知識を有する作業者を別途アサインし駆け付けさせなければならない。   Furthermore, in the process of performing the cause isolation work for the failure target device, there are cases where the device other than the device initially regarded as the suspicious device becomes the work target and the work environment and the work place change. In this case, it is necessary to send a replacement procedure manual for the target device to the worker again and start verbal instructions such as specifying the device from the beginning. Therefore, an oral instruction for changing the schedule is necessary, and the cause of communication errors increases. In addition, if specialized knowledge is required for the changed suspected device, assuming that an operator who has only knowledge of the original suspected device is engaged in the work, work with specialized knowledge of the changed device Must be assigned and run separately.

特許文献1に記載された方法では、監督者が作業支援装置から受信した撮影画像と音声とを監視し、異常な出来事があれば監督者端末を用いて指示を作業支援装置に配信する。そして、作業支援装置は、受信した指示をヘッドマウントディスプレイに表示し、またはイヤホンに音声出力する。そのため、特許文献1に記載された方法を用いれば、オペレータは遠隔地にいながら現場の状態を把握できるとともに、口頭のみで行っていた指示に加え、視覚的に指示を与えることができる。しかしながら、このようにヘッドマウントディスプレイに指示を単純に表示する方法では、指示内容が小さく表示される場合などにうまく視界と重なるように表示できるとは限らず、作業者が確実に認識できるとは限らない。   In the method described in Patent Document 1, the supervisor monitors the captured image and sound received from the work support apparatus, and if there is an abnormal event, the instruction is distributed to the work support apparatus using the supervisor terminal. Then, the work support device displays the received instruction on the head mounted display or outputs the sound to the earphone. Therefore, if the method described in Patent Document 1 is used, the operator can grasp the state of the site while being at a remote place, and can give a visual instruction in addition to the instruction that has been given only verbally. However, the method of simply displaying instructions on the head-mounted display in this way may not be able to display well so as to overlap the field of view when the contents of the instructions are displayed in a small size, etc. Not exclusively.

また、同等の作業工程となる保全作業において、作業映像を取得し、作業対象を3次元リアルタイムシミュレーション画像内に明示して、作業映像と重畳させることにより差分を表示させ作業対象の明示、および手順を遵守した作業遂行を支援する技術がある。例えば、特許文献2にはこれに関連する技術が記載されている。   Also, in maintenance work, which is an equivalent work process, a work video is acquired, the work target is clearly shown in the three-dimensional real-time simulation image, and the difference is displayed by superimposing it on the work video so that the work target is clearly indicated, and the procedure There are technologies that support the performance of work that complies with the standards. For example, Patent Document 2 describes a technique related to this.

しかし、特許文献2に記載された技術では、事前にシミュレーション画像のモデルデータベースの準備、および作業対象の明記が必要である。また、特許文献2には視覚的な指示を与える旨の開示はない。そのため、通信障害対象の切り分けを行いながら逐次作業対象装置や作業環境の変化する保守作業には適用が難しい。   However, in the technique described in Patent Document 2, it is necessary to prepare a model database of simulation images and specify a work target in advance. Patent Document 2 does not disclose that a visual instruction is given. For this reason, it is difficult to apply to maintenance work in which the work target device and the work environment are sequentially changed while the communication failure target is isolated.

そこで、本発明は、作業者が作業対象から視線を外すことなく、遠隔地から与えられた視覚的な指示をより確実に確認することができる作業支援システム、ヘッドマウントディスプレイ装置、作業支援方法及び作業支援プログラムを提供することを目的とする。   Accordingly, the present invention provides a work support system, a head-mounted display device, a work support method, and a work support system that can confirm a visual instruction given from a remote place more securely without removing the line of sight from the work target. The purpose is to provide a work support program.

本発明による作業支援システムは、所定の情報を表示可能なヘッドマウントディスプレイ装置と、ヘッドマウントディスプレイ装置を装着した作業者の視線方向を撮影可能な撮影手段と、情報処理装置とを備え、情報処理装置は、作業者に指示を与えるオペレータの操作に従って、撮影手段が撮影した作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成する指示画像生成手段を含み、ヘッドマウントディスプレイ装置は、指示画像生成手段が生成した指示画像を表示する際に、指示画像が作業者の視界と重なるように制御する制御手段を含むことを特徴とする。   A work support system according to the present invention includes a head-mounted display device capable of displaying predetermined information, a photographing unit capable of photographing a line-of-sight direction of a worker wearing the head-mounted display device, and an information processing device. The apparatus includes an instruction image generation unit that generates an instruction image by superimposing a predetermined image on a photographed image of the operator's line of sight taken by the photographing unit in accordance with an operation of an operator that gives an instruction to the worker. Comprises control means for controlling the instruction image so as to overlap the field of view of the operator when the instruction image generated by the instruction image generation means is displayed.

本発明によるヘッドマウントディスプレイ装置は、ヘッドマウントディスプレイ装置を装着した作業者の視線方向を撮影した撮影画像に所定の画像を重畳した指示画像を表示する際に、指示画像が作業者の視界と重なるように制御する制御手段を備えたことを特徴とする。   In the head mounted display device according to the present invention, when displaying an instruction image in which a predetermined image is superimposed on a photographed image obtained by photographing the line of sight of the worker wearing the head mounted display device, the instruction image overlaps the worker's field of view. It is characterized by comprising control means for controlling as described above.

本発明による作業支援方法は、ヘッドマウントディスプレイ装置を装着した作業者に指示を与えるオペレータの操作に従って、撮影手段が撮影した作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成し、生成した指示画像をヘッドマウントディスプレイ装置で表示する際に、指示画像が作業者の視界と重なるように制御することを特徴とする。   According to the work support method of the present invention, an instruction image is generated by superimposing a predetermined image on a photographed image of the worker's line of sight photographed by the photographing means in accordance with an operation of an operator who gives an instruction to the worker wearing the head mounted display device. When the generated instruction image is displayed on the head mounted display device, the instruction image is controlled so as to overlap the field of view of the operator.

本発明による作業支援プログラムは、コンピュータに、ヘッドマウントディスプレイ装置を装着した作業者に指示を与えるオペレータの操作に従って、撮影手段が撮影した作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成する指示画像生成処理と、生成した指示画像をヘッドマウントディスプレイ装置で表示する際に、指示画像が作業者の視界と重なるように制御する制御処理とを実行させることを特徴とする。   The work support program according to the present invention instructs a computer to superimpose a predetermined image on a photographed image of the worker's line of sight photographed by the photographing means in accordance with an operator's operation that gives an instruction to the worker wearing the head mounted display device. An instruction image generation process for generating an image and a control process for controlling the instruction image so as to overlap the field of view of the operator when the generated instruction image is displayed on the head mounted display device are performed.

本発明によれば、作業者が作業対象から視線を外すことなく、遠隔地から与えられた視覚的な指示をより確実に確認することができる。   ADVANTAGE OF THE INVENTION According to this invention, the visual instruction | indication given from the remote place can be confirmed more reliably, without an operator removing eyes | visual_axis from work object.

本発明による作業支援システムの構成の一例を示すブロック図である。It is a block diagram which shows an example of a structure of the work assistance system by this invention. 指示付きの作業視野31の一例を示す説明図である。It is explanatory drawing which shows an example of the work visual field 31 with an instruction | indication. 作業支援システムが実行する処理例を示す流れ図である。It is a flowchart which shows the process example which a work assistance system performs. 作業者およびオペレータの視界の一例を示す説明図である。It is explanatory drawing which shows an example of a worker's and an operator's visual field. 作業支援システムの最小の構成例を示すブロック図である。It is a block diagram which shows the minimum structural example of a work assistance system.

以下、本発明の実施形態について図面を参照して説明する。図1は、本発明による作業支援システムの構成の一例を示すブロック図である。図1に示すように、作業支援システムは、片眼ゴーグル型のヘッドマウントディスプレイ装置100(以下、単にヘッドマウントディスプレイ装置100という)と、ウェアラブル端末200と、オペレータ用情報処理装置300とを含む。なお、本実施形態では、作業者が体に身に付けられるウェアラブル端末を用いるが、ウェアラブル端末に代えて、例えば、ノート型のパーソナルコンピュータ等を用いられてもよい。   Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing an example of the configuration of a work support system according to the present invention. As shown in FIG. 1, the work support system includes a one-eye goggle-type head-mounted display device 100 (hereinafter simply referred to as a head-mounted display device 100), a wearable terminal 200, and an operator information processing device 300. In the present embodiment, a wearable terminal that an operator can wear on the body is used, but a laptop personal computer or the like may be used instead of the wearable terminal.

ヘッドマウントディスプレイ装置100とウェアラブル端末200とは、作業者によって装着され、有線または無線で相互に接続されている。また、ウェアラブル端末200とオペレータ用情報処理装置300とは、LANやインターネット等の通信ネットワーク400を介して相互に接続されている。   The head mounted display device 100 and the wearable terminal 200 are attached by an operator and are connected to each other by wire or wireless. The wearable terminal 200 and the operator information processing apparatus 300 are connected to each other via a communication network 400 such as a LAN or the Internet.

本実施形態では、ヘッドマウントディスプレイ装置100は、作業者が作業中に装着するものであり、具体的には、眼鏡型のディスプレイ装置によって実現される。また、ヘッドマウントディスプレイ装置100は、眼鏡の片側のレンズに相当する部分に半透過ディスプレイ装置120を備えている。   In the present embodiment, the head mounted display device 100 is worn by an operator during work, and is specifically realized by a glasses-type display device. The head mounted display device 100 includes a transflective display device 120 at a portion corresponding to a lens on one side of the glasses.

なお、本実施形態では眼鏡型のヘッドマウントディスプレイ装置100を用いるが、これに限らず、頭部に装着可能であれば、例えばヘルメット型のディスプレイ装置が用いられてもよい。また、本実施形態では、光学方式のヘッドマウントディスプレイ装置100を用いるが、これに限らず、例えば、網膜上に画像を投影する方式の装置が用いられてもよい。また、例えば、外部を直接見るのではなく、カメラで撮影した外部画像を投影するタイプのものでもよい。本実施形態では、一般的な用法に従い、眼鏡型やヘルメット型、光学方式型や網膜照射型等を全て包括してヘッドマウントディスプレイ装置という。また、本実施形態では、画像とは、動画像または静止画像のことである。   In this embodiment, the eyeglass-type head-mounted display device 100 is used. However, the present invention is not limited to this. For example, a helmet-type display device may be used as long as it can be attached to the head. In this embodiment, the optical head-mounted display device 100 is used. However, the present invention is not limited to this. For example, a device that projects an image on the retina may be used. Further, for example, a type of projecting an external image taken by a camera instead of directly viewing the outside may be used. In the present embodiment, in accordance with general usage, a spectacle type, a helmet type, an optical system type, a retina irradiation type, and the like are collectively referred to as a head mounted display device. In the present embodiment, an image is a moving image or a still image.

ヘッドマウントディスプレイ装置100の半透過ディスプレイ装置120については、装着した作業者の焦点距離に合わせた位置に調節可能である。例えば、ヘッドマウントディスプレイ装置100の制御手段130は、作業者の調節操作に従って、半透過ディスプレイ装置120を前後に移動させるように制御する。また、本実施形態では、半透過ディスプレイ装置120に表示される画像については、その拡大率を手元で調節可能である。例えば、ヘッドマウントディスプレイ装置100の制御手段130は、作業者の調節操作に従って、半透過ディスプレイ装置120が表示する画像の拡大率を変更するように制御する。なお、制御手段130は、拡大率に限らず、表示する画像の位置や角度、色彩等を補正するようにしてもよい。   The transflective display device 120 of the head mounted display device 100 can be adjusted to a position in accordance with the focal length of the wearing operator. For example, the control means 130 of the head mounted display device 100 controls the transflective display device 120 to move back and forth in accordance with the operator's adjustment operation. In the present embodiment, the enlargement ratio of the image displayed on the transflective display device 120 can be adjusted at hand. For example, the control unit 130 of the head mounted display device 100 performs control so as to change the enlargement ratio of the image displayed by the transflective display device 120 in accordance with the operator's adjustment operation. The control unit 130 may correct the position, angle, color, and the like of the image to be displayed without being limited to the enlargement ratio.

また、ヘッドマウントディスプレイ装置100は、作業者の視界をさえぎらない箇所に、作業者の視界を正確に撮影できる角度でWebカメラ110を搭載している。Webカメラ110は、作業者の視界を撮影し、作業者の視界画像10をウェアラブル端末200に送信する。なお、本実施形態では、ヘッドマウントディスプレイ装置100がWebカメラ110を搭載する構成になっているが、これに限らず、それぞれ別に作業者が装着するようにしてもよい。   Further, the head mounted display device 100 has the web camera 110 mounted at an angle at which the worker's field of view can be accurately photographed at a place where the worker's field of view is not obstructed. The Web camera 110 captures the worker's field of view and transmits the worker's field of view image 10 to the wearable terminal 200. In this embodiment, the head mounted display device 100 is configured to mount the Web camera 110. However, the present invention is not limited to this, and the head mounted display device 100 may be separately mounted by an operator.

ウェアラブル端末200は、具体的には、作業者が体に身に付けられる小型の情報処理装置によって実現され、プログラムに従って動作する。また、ウェアラブル端末200は、ヘッドマウントディスプレイ装置100またはオペレータ用情報処理装置300とデータの送受信を行う機能を備えている。   Specifically, the wearable terminal 200 is realized by a small information processing apparatus worn by the worker on the body, and operates according to a program. The wearable terminal 200 has a function of transmitting / receiving data to / from the head mounted display device 100 or the operator information processing device 300.

オペレータ用情報処理装置300は、具体的には、プログラムに従って動作するパーソナルコンピュータ等の情報処理装置によって実現される。オペレータ用情報処理装置300は、ウェアラブル端末200から受信した作業者の視界画像10を表示するディスプレイ装置310と、表示された作業者の視界画像10をリアルタイムで編集可能なリアルタイム画像編集ツール320とを備えている。   Specifically, the operator information processing apparatus 300 is realized by an information processing apparatus such as a personal computer that operates according to a program. The operator information processing apparatus 300 includes a display device 310 that displays the worker's view image 10 received from the wearable terminal 200, and a real-time image editing tool 320 that can edit the displayed worker's view image 10 in real time. I have.

リアルタイム画像編集ツール320は、具体的には、オペレータ用情報処理装置300が搭載する画像編集用のソフトウェアである。以下、リアルタイム画像編集ツール320が、作業者の視界画像10を編集し、オペレータの指示画像12を作成する等の表現を用いるが、具体的には、オペレータ用情報処理装置300のCPUがリアルタイム画像編集ツール320に従ってそれらの処理を実行している。   The real-time image editing tool 320 is specifically image editing software installed in the operator information processing apparatus 300. Hereinafter, the real-time image editing tool 320 uses expressions such as editing the operator's view image 10 and creating the operator's instruction image 12. Specifically, the CPU of the operator information processing device 300 uses the real-time image. These processes are executed according to the editing tool 320.

リアルタイム画像編集ツール320は、例えば、オペレータの操作(図1に示すオペレータの指示操作20)に従って、作業者の視界画像10にポインタの動作などで動的な指示画像を重畳したり、輪郭検出により特定部位に着色をしたりする。本実施形態では、オペレータ用情報処理装置300は、ディスプレイ装置310に表示された作業者の視界画像10にリアルタイム画像編集ツール320によってオペレータの指示操作20を反映させることで、指示ポインタ画像11を重畳したオペレータの指示画像12を作成する。   The real-time image editing tool 320, for example, superimposes a dynamic instruction image by a pointer operation or the like on the worker's view image 10 according to an operator's operation (operator's instruction operation 20 shown in FIG. 1), or by contour detection. Color a specific part. In this embodiment, the operator information processing apparatus 300 superimposes the instruction pointer image 11 by reflecting the operator's instruction operation 20 by the real-time image editing tool 320 on the worker's view image 10 displayed on the display device 310. The operator's instruction image 12 is created.

また、オペレータ用情報処理装置300は、作成したオペレータの指示画像12を、通信ネットワーク400を介してウェアラブル端末200に送信する。そして、ウェアラブル端末200は、受信したオペレータの指示画像12をヘッドマウントディスプレイ装置100に送信する。すると、ヘッドマウントディスプレイ装置100の半透過ディスプレイ装置120は、受信したオペレータの指示画像12を表示する。   The operator information processing apparatus 300 transmits the created operator instruction image 12 to the wearable terminal 200 via the communication network 400. The wearable terminal 200 transmits the received operator instruction image 12 to the head mounted display device 100. Then, the transflective display device 120 of the head mounted display device 100 displays the received operator instruction image 12.

図1に示される作業者の視界30は、半透過ディスプレイ装置120に何も表示されていない状態でのものである。また、図1に示される作業者の指示付きの作業視野31は、半透過ディスプレイ装置120にオペレータの指示画像12が表示されている状態のものである。すなわち、作業者の指示付きの作業視野31は、作業者が片方の眼で半透過ディスプレイ装置120に表示されたオペレータの指示画像12を見て、もう片方の眼で通常通り作業対象等を見ることによって実現される。   The worker's view 30 shown in FIG. 1 is in a state where nothing is displayed on the transflective display device 120. Further, the work visual field 31 with the operator's instruction shown in FIG. 1 is a state in which the operator's instruction image 12 is displayed on the transflective display device 120. That is, in the work visual field 31 with an instruction from the operator, the operator looks at the operator's instruction image 12 displayed on the transflective display device 120 with one eye and looks at the work object or the like as usual with the other eye. Is realized.

図2は、指示付きの作業視野の一例を示す説明図である。図2に示されるように、半透過ディスプレイ装置120は、Webカメラ110よって撮影された作業者の右目の視界に相当する視界画像10に指示ポインタ画像11を重畳したオペレータの指示画像12を表示している。作業者は、この半透過ディスプレイ装置120に表示されたオペレータの指示画像12を右目で見ることによって、通常の視界に指示画像を加えたように見ることができる。   FIG. 2 is an explanatory diagram illustrating an example of a work visual field with instructions. As shown in FIG. 2, the transflective display device 120 displays the operator instruction image 12 in which the instruction pointer image 11 is superimposed on the view image 10 corresponding to the view field of the right eye of the worker photographed by the Web camera 110. ing. The operator can view the operator's instruction image 12 displayed on the transflective display device 120 with the right eye as if the instruction image was added to the normal field of view.

また、半透過ディスプレイ装置120が半透過型であるので、作業者は、オペレータの指示画像12を見ながら半透過ディスプレイ装置120越しに対象機器等を視認することができる。例えば、作業者は、オペレータの指示画像12が半透過ディスプレイ装置120越しの視界と重なるように、画像の拡大率や表示位置、角度などを変更する調節操作を行う。このように調節操作を行うことによって、作業者は片方の眼でオペレータの指示画像12を見ることの違和感を抑えることができる。   Further, since the transflective display device 120 is a transflective type, the operator can visually recognize the target device and the like through the transflective display device 120 while viewing the instruction image 12 of the operator. For example, the operator performs an adjustment operation to change the enlargement ratio, display position, angle, etc. of the image so that the operator's instruction image 12 overlaps the field of view through the transflective display device 120. By performing the adjustment operation in this way, the operator can suppress the uncomfortable feeling of viewing the operator's instruction image 12 with one eye.

次に、作業支援システムの動作について図面を参照して説明する。図3は、作業支援システムが実行する処理例を示す流れ図である。   Next, the operation of the work support system will be described with reference to the drawings. FIG. 3 is a flowchart illustrating an example of processing executed by the work support system.

ここでは、作業者は、片眼ゴーグル型のヘッドマウントディスプレイ装置100を装着し、ウェアラブル端末200を使用しながら通信装置等に対する作業を行うとする。また、オペレータは通信装置のネットワーク監視を行っているため、作業対象である被疑装置に関する情報を持っているとする。さらに、オペレータと作業者とは、Skype(登録商標)などの通信サービスを用いて会話可能であるとする。   Here, it is assumed that the worker wears the one-eye goggle-type head-mounted display device 100 and works on the communication device or the like while using the wearable terminal 200. Further, since the operator is monitoring the network of the communication device, it is assumed that the operator has information regarding the suspected device that is the work target. Furthermore, it is assumed that the operator and the operator can talk using a communication service such as Skype (registered trademark).

作業者が対象装置を特定するに当たり、オペレータから口頭での指示を受けながら対象装置の周辺を視界に捉える。すると、作業者が装着したヘッドマウントディスプレイ装置100に搭載されたWebカメラ110は、作業者の視線方向を撮影する(ステップS1)。また、Webカメラ110は、作業者の視線方向を撮影した作業者の視界画像10をウェアラブル端末200に送信する。すると、ウェアラブル端末200は、インターネット等の通信ネットワーク400を介して、オペレータ用情報処理装置300に作業者の視界画像10を送信する(ステップS2)。   When an operator specifies a target device, the periphery of the target device is captured in the field of view while receiving verbal instructions from an operator. Then, the Web camera 110 mounted on the head mounted display device 100 worn by the worker captures the worker's line-of-sight direction (step S1). In addition, the Web camera 110 transmits the worker's view image 10 obtained by photographing the worker's line-of-sight direction to the wearable terminal 200. Then, the wearable terminal 200 transmits the worker's visual field image 10 to the operator information processing device 300 via the communication network 400 such as the Internet (step S2).

次いで、オペレータ用情報処理装置300のディスプレイ装置310は、受信した作業者の視界画像10を表示する(ステップS3)。そして、オペレータは、作業者の視界画像10をディスプレイ装置310上で確認し、会話の内容と合わせて作業者が現状でどの装置を対象と認識しているかを把握する。   Next, the display device 310 of the operator information processing device 300 displays the received worker view image 10 (step S3). Then, the operator confirms the worker's view image 10 on the display device 310, and grasps which device the worker currently recognizes as a target together with the content of the conversation.

次いで、オペレータは、作業者に対して口頭で対象装置に関する指示を出すと共に、リアルタイム画像編集ツール320を用いて、ポインタで対象を指差す操作、またはポインタを動かし対象を円で囲む等の操作(図1に示すオペレータの指示操作20)を行う。すると、リアルタイム画像編集ツール320は、オペレータの指示操作20に従って、指示ポインタ画像11を作業者の視界画像10に重畳し、オペレータの指示画像12を生成する(ステップS4)。   Next, the operator verbally instructs the worker about the target device, and uses the real-time image editing tool 320 to point the target with the pointer, or to move the pointer and surround the target with a circle (for example, The operator's instruction operation 20) shown in FIG. 1 is performed. Then, the real-time image editing tool 320 superimposes the instruction pointer image 11 on the worker's view image 10 according to the instruction operation 20 of the operator, and generates the operator instruction image 12 (step S4).

次いで、リアルタイム画像編集ツール320は、生成したオペレータの指示画像12を、通信ネットワーク400を介してウェアラブル端末200に送信する。すると、ウェアラブル端末200は、オペレータの指示画像12をヘッドマウントディスプレイ装置100に送信する(ステップS5)。   Next, the real-time image editing tool 320 transmits the generated operator instruction image 12 to the wearable terminal 200 via the communication network 400. Then, the wearable terminal 200 transmits the operator instruction image 12 to the head mounted display device 100 (step S5).

次いで、ヘッドマウントディスプレイ装置100の半透過ディスプレイ装置120は、受信したオペレータの指示画像12を表示する(ステップS6)。   Next, the transflective display device 120 of the head mounted display device 100 displays the received operator instruction image 12 (step S6).

ここで、作業者の焦点距離に合わせて半透過ディスプレイ装置120を調整することが可能である。また、半透過ディスプレイ装置120が表示する画像の拡大率についても手元の操作で調整が可能である。そのため、作業者は、半透過ディスプレイ装置120を半透過して見える視野と、半透過ディスプレイ装置120に表示されるオペレータの指示画像12の視野(具体的には、作業者の視界画像10)とが重なるように調節することができる。ヘッドマウントディスプレイ装置100の制御手段130は、作業者の調節操作に従って、オペレータの指示画像12が作業者の視界30と重なるように制御する(ステップS7)。   Here, it is possible to adjust the transflective display device 120 according to the focal length of the operator. Further, the enlargement ratio of the image displayed by the transflective display device 120 can also be adjusted by hand operation. For this reason, the worker can see the field of view that appears semi-transmissive through the semi-transmissive display device 120 and the field of view of the operator instruction image 12 displayed on the semi-transmissive display device 120 (specifically, the worker's view image 10). Can be adjusted to overlap. The control means 130 of the head mounted display device 100 controls the operator's instruction image 12 so as to overlap the operator's field of view 30 according to the operator's adjustment operation (step S7).

具体的には、ヘッドマウントディスプレイ装置100の制御手段130は、作業者の調節操作に従って、作業者の焦点距離に合わせるように半透過ディスプレイ装置120の位置を前後に移動させるように制御する。また、例えば、ヘッドマウントディスプレイ装置100の制御手段130は、作業者の調節操作に従って、半透過ディスプレイ装置120が表示する画像の拡大率を変更するように制御する。このように調節することにより、作業者は、図2に示す様に、片方の眼では通常の自分の視野を、もう片方の眼でオペレータがリアルタイムで指示を付加した視野(具体的には指示ポインタ画像11を付加した作業者の視界画像10(すなわちオペレータの指示画像12))を見ることになる。本実施形態では、この状態の視野を指示付きの作業視野31という。このような指示付きの作業視野31によって、作業者は、作業対象の特定および作業実施時にオペレータから口頭による指示と視覚的な指示とを受けて作業を行うことができる。また、作業者は作業対象から視線を動かすことなく、オペレータからの視覚的な指示を見ることができる。   Specifically, the control means 130 of the head mounted display device 100 controls the position of the transflective display device 120 to move back and forth so as to match the focal length of the worker according to the operator's adjustment operation. Further, for example, the control unit 130 of the head mounted display device 100 performs control so as to change the enlargement ratio of the image displayed by the transflective display device 120 in accordance with the operator's adjustment operation. By adjusting in this way, as shown in FIG. 2, the operator can see his normal field of view with one eye, and the field of view with the operator adding an instruction in real time with the other eye (specifically, the instruction) The worker's view image 10 (that is, the operator's instruction image 12) to which the pointer image 11 is added is viewed. In this embodiment, the visual field in this state is referred to as a work visual field 31 with instructions. The work field of view 31 with such an instruction allows the worker to perform an operation upon receiving a verbal instruction and a visual instruction from the operator when the work target is specified and the work is performed. In addition, the operator can see the visual instruction from the operator without moving the line of sight from the work target.

次に、作業者およびオペレータの視界について図4を参照して説明する。図4は、作業者およびオペレータの視界の一例を示す説明図である。   Next, the field of view of the operator and the operator will be described with reference to FIG. FIG. 4 is an explanatory diagram illustrating an example of the field of view of the operator and the operator.

作業者は、ウェアラブル端末200と、作業者の片方の眼に対して画像を映し出す半透過ディスプレイ装置120および作業者の視界を撮影するWebカメラ110を備えた片眼ゴーグル型のヘッドマウントディスプレイ装置100とを装着して作業を行っているとする。また、作業者が装着しているウェアラブル端末200とオペレータ用情報処理装置300とは、リアルタイムで画像データを送受信しているとする。   The worker has a wearable terminal 200, a one-eye goggle-type head-mounted display device 100 including a translucent display device 120 that projects an image on one eye of the worker, and a Web camera 110 that captures the field of view of the worker. Suppose you are working with Further, it is assumed that the wearable terminal 200 and the operator information processing device 300 worn by the operator are transmitting and receiving image data in real time.

Webカメラ110は、作業者の視界30を撮影し(図4のa1)、撮影した作業者の視界画像10をオペレータ用情報処理装置300に送信する(図4のa2)。   The Web camera 110 captures the worker's field of view 30 (a1 in FIG. 4), and transmits the captured worker's field of view image 10 to the operator information processing apparatus 300 (a2 in FIG. 4).

ディスプレイ装置310は、受信した作業者の視界画像10を表示する。オペレータは、ディスプレイ装置310が表示する作業者の視界画像10を確認する。そして、オペレータは、作業者の視界画像10に対して、リアルタイムで画像編集可能なツールにより、マウスやタッチパネル操作によるポインタなどの指標の動作、または画像からの輪郭取得による対象の着色などの選択表示を行い、作業者の視界画像に指示を付加する。ディスプレイ装置310は、作業者の視界画像に指示を付加したオペレータの指示画像12を表示する(図4のa3)。   The display device 310 displays the received visual field image 10 of the worker. The operator confirms the visual field image 10 of the worker displayed on the display device 310. Then, the operator selects and displays the operation of an index such as a pointer by a mouse or a touch panel operation or coloring of an object by acquiring an outline from the image, using a tool capable of image editing in real time on the worker's view image 10. To add an instruction to the visual field image of the worker. The display device 310 displays the operator instruction image 12 in which an instruction is added to the worker's view image (a3 in FIG. 4).

半透過ディスプレイ装置120は、オペレータ用情報処理装置300から受信したオペレータの指示画像12を表示する(図4のa4)。作業者は、自分の視界(作業者の視界30)とリアルタイムで重畳されたオペレータの指示画像12とを見ることで指示付きの作業視野31を手に入れ、オペレータと口頭で確認を行いながら正確な作業実施が実現可能となる。   The transflective display device 120 displays the operator instruction image 12 received from the operator information processing device 300 (a4 in FIG. 4). An operator obtains a work visual field 31 with instructions by looking at his / her own field of view (worker's field of view 30) and the operator's instruction image 12 superimposed in real time, and accurately confirms it while confirming verbally with the operator. Work can be realized.

また、情報処理端末などで指示書や指示画像を表示する場合には、作業者は指示を見るために作業対象から情報処理端末などに視線を一度動かさなければならない。そのため、視界を戻した際に作業対象を見間違ってしまうリスクが発生する。しかし、本実施形態では、自身の視界(具体的には、視界に相当する視界画像)に指示画像を重畳させて視認できるので、指示を見るために視線を動かす必要がない。そのため、作業対象を見間違ってしまうリスクが低減されると共に、作業を中断する事無く円滑な作業遂行が実現可能となる。   Further, when displaying an instruction sheet or an instruction image on an information processing terminal or the like, the worker must move his / her line of sight from the work target to the information processing terminal or the like in order to view the instruction. For this reason, there is a risk of mistakenly looking at the work object when the view is returned. However, in this embodiment, since the instruction image can be visually recognized by being superimposed on its own field of view (specifically, a field of view image corresponding to the field of view), it is not necessary to move the line of sight in order to see the instruction. For this reason, the risk of mistakenly looking at the work object is reduced, and smooth work execution can be realized without interrupting the work.

以上のように、本実施形態では、口頭のみで行っていた遠隔作業指示に視覚的な指示を加えることが可能となる。そのため、作業者の行動に対して作業者自身とオペレータとのダブルチェックが働くこととなり、指示に対する誤解釈や誤った作業のリスクを大きく削減するという効果がある。   As described above, in the present embodiment, it is possible to add a visual instruction to the remote work instruction that has been performed only verbally. For this reason, the double check between the operator and the operator acts on the behavior of the worker, and there is an effect of greatly reducing the risk of misinterpretation of the instruction and wrong work.

また、作業者の視界にオペレータの指示画像を重ねるように遠隔地から視覚的な指示を与えることで、作業者が指示を見る為に逐一作業対象から視線を外す必要が無く、作業対象を見間違えるリスクを軽減する効果がある。さらに、オペレータの指示画像が半透過ディスプレイ装置越しの視界と重なるように調節操作を行うことによって、作業者は片方の眼でオペレータの指示画像を見ることの違和感を抑えることができる。   In addition, by giving a visual instruction from a remote location so that the operator's field of view overlaps the operator's field of view, it is not necessary for the operator to remove the line of sight from the work object to view the instruction. This has the effect of reducing the risk of mistakes. Furthermore, by performing the adjustment operation so that the operator's instruction image overlaps the field of view through the transflective display device, the operator can suppress the uncomfortable feeling of viewing the operator's instruction image with one eye.

また、随時変化する作業者の視界に対しリアルタイムにオペレータが指示を出すことが可能なため、障害箇所の切り分けなどにより当初の被疑装置から作業環境や対象装置が変更になった場合にも円滑に作業を継続対応することが可能である。この際に作業者の対象装置に対する専門知識が不足している場合でも、オペレータが専門知識を持ち随時詳細な指示を出すことで、作業者の知識不足を補い、作業者を交代することなく作業を遂行することができる。   In addition, since the operator can give instructions in real time to the worker's field of view that changes from time to time, smooth operation is possible even when the work environment or target device is changed from the original suspected device due to the isolation of the fault location. It is possible to continue working. Even if the operator's expertise on the target device is insufficient, the operator can provide expertise and give detailed instructions at any time to compensate for the operator's lack of knowledge and work without changing the operator. Can be carried out.

また、作業環境がイレギュラーな場合にも、作業者の視界画像を通してオペレータが環境を把握することができ、通常の作業手順から作業環境の状況に応じた手順へ変更することが可能となる。   Even when the work environment is irregular, the operator can grasp the environment through the worker's view image, and the normal work procedure can be changed to a procedure according to the situation of the work environment.

なお、本発明の適用形態は、以上に示した形態に限られない。例えば、以下に示すような宅内作業を内製化するための形態に適用することもできる。   In addition, the application form of this invention is not restricted to the form shown above. For example, the present invention can be applied to a form for in-house work as shown below.

通信回線の終端装置は設置場所が電話会社の局舎でなく顧客の事務所であることが大多数である。この顧客へ納入している通信回線に障害が発生した場合には、顧客事務所へ保守会社作業者が駆け付けて終端装置の交換保守作業(宅内作業)を行うこととなるが、その発生回数は膨大な数となっている。   In most cases, the communication line terminator is installed at the customer's office rather than at the telephone company office. When a failure occurs in the communication line delivered to this customer, the maintenance company worker will rush to the customer office to perform replacement maintenance work (home work) of the terminal equipment. It is a huge number.

上記の効果説明に挙げた通り、本発明を適用すれば作業者の専門知識不足を補うことが可能なため、保守会社要員でなく装置の納入先の顧客が自分で作業することができる。   As described in the above description of the effect, if the present invention is applied, it is possible to compensate for the lack of expertise of the worker, so that the customer who is the delivery destination of the apparatus can work by himself instead of the maintenance company staff.

具体的には、宅内で障害が発生した際に、通常は監視部門から保守会社へ出動要請があり、作業者のアサインと予備部材の配送手配をするが、本発明を適用する場合には、本発明に係る装置と予備部材の配送手配だけで済む。受け取った顧客はヘッドマウントディスプレイ装置等を装着し、オペレータの指示を受けて終端装置の交換作業を行う。その後、故障部材とヘッドマウントディスプレイ装置等とを返送すれば作業が完了する。   Specifically, when a failure occurs in the house, there is usually a request for dispatch from the monitoring department to the maintenance company, and the operator assigns and arranges the delivery of spare parts, but when applying the present invention, It is only necessary to arrange for delivery of the apparatus and spare parts according to the present invention. The received customer wears a head-mounted display device, etc., and receives the operator's instruction to replace the terminal device. Thereafter, the work is completed if the failed member and the head mounted display device are returned.

上記の適用形態では、作業者の駆け付けに要する時間を削減することによる障害復旧時間の短縮、作業者リソースの削減という効果が期待できる。常時駆け付けられるよう作業者のリソースは常に一定量確保しているため、この削減効果は保守会社にとって大きなものである。   In the above application mode, it is possible to expect the effects of shortening the failure recovery time and reducing the worker resources by reducing the time required for the worker to rush. This reduction effect is significant for the maintenance company because the worker's resources are always secured in a constant amount so that they can always be rushed.

また、本実施形態では、作業者が自身の視界を確保しつつ片眼ゴーグル型のヘッドマウントディスプレイ装置の半透過ディスプレイ装置に指示付き画像を映し作業を行う場合について説明した。しかしながら、本発明の適用形態は、片眼ゴーグル型のヘッドマウントディスプレイ装置を用いるものに限られない。例えば、半透過ディスプレイ装置に映る指示付き画像を限りなく時間的にリアルタイム画像に近づけることで、半透過ディスプレイ装置を供えた両眼ゴーグル型、または非透過ディスプレイ装置を備えた両眼ゴーグル型のヘッドマウントディスプレイ装置に置き換え、作業者が自身の視界でなく画像のみを視認して作業をすることも可能である。   Further, in the present embodiment, a case has been described in which an operator projects an image with an instruction on a semi-transmissive display device of a one-eye goggle-type head mounted display device while securing his / her field of view. However, the application form of the present invention is not limited to one using a one-eye goggles type head-mounted display device. For example, a binocular goggles type head provided with a translucent display device or a binocular goggles type head provided with a translucent display device by bringing an image with instructions displayed on the transflective display device closer to a real-time image in time. It can be replaced with a mount display device, and an operator can work by visually recognizing only an image instead of his own field of view.

その場合においては、カメラを両眼それぞれの位置に設置し片眼ずつの画像を取得することで、両眼視差による3D画像をゴーグルに映し出すことも可能である。例えば、複数のWebカメラをヘッドマウントディスプレイ装置に搭載させ、オペレータ用情報処理装置は、複数のWebカメラがそれぞれ撮影した作業者の視界画像に基づいて3D画像を生成し、ヘッドマウントディスプレイ装置に送信して表示させる。また、その際には3D画像に対する指示の付加方法として、ポインタの代わりに手の立体画像を用いてもよい。また、その指示ポインタ画像や、手の立体画像を作業者の視界画像に重畳する際のオペレータ用情報処理装置の入力インターフェースとして、直感的な指示出しを行うため、タッチパネル機能を備えたディスプレイ装置を用いてもよい。また、オペレータがモーションセンサ付きのグローブを動かすことで手の立体画像を動かすインターフェースも用いてもよい。   In that case, it is also possible to display a 3D image by binocular parallax on goggles by installing a camera at each eye position and acquiring an image for each eye. For example, a plurality of Web cameras are mounted on a head-mounted display device, and the operator information processing device generates a 3D image based on the field-of-view images of the workers photographed by the plurality of Web cameras, and transmits them to the head-mounted display device. To display. In that case, as a method of adding an instruction to the 3D image, a stereoscopic image of the hand may be used instead of the pointer. In addition, a display device having a touch panel function is provided as an input interface of an information processing device for an operator when the pointer image or a stereoscopic image of a hand is superimposed on an operator's view image. It may be used. Further, an interface for moving the stereoscopic image of the hand by moving the glove with a motion sensor by the operator may be used.

さらに、本発明を、通信装置に対する作業のみならず、絵を描く、陶芸、医療手術等、実際の作業者にある程度の技術的素養を必要としつつも遠隔地から専門者の指示による知識的支援により向上を図れる作業にも適用可能である。また、電話会社の局舎内で機械室および作業対象ラックを見つける等、複雑な経路に対する遠隔地からの道案内や誘導にも適用可能である。   Furthermore, the present invention provides not only work for the communication device, but also drawing assistance, ceramic art, medical surgery, etc. while providing some technical knowledge to the actual worker, while providing knowledge support based on instructions from an expert from a remote location It can also be applied to work that can be improved. Further, the present invention is applicable to route guidance and guidance from a remote place for complex routes such as finding a machine room and a work rack in a telephone company office.

次に、本発明による作業支援システムの最小構成について説明する。図5は、作業支援システムの最小の構成例を示すブロック図である。図5に示すように、作業支援システムは、最小の構成要素として、所定の情報を表示可能なヘッドマウントディスプレイ装置1と、ヘッドマウントディスプレイ装置1を装着した作業者の視線方向を撮影可能な撮影手段2と、情報処理装置3とを備えている。また、ヘッドマウントディスプレイ装置1は、制御手段4を含む。また、情報処理装置3は、指示画像生成手段5を含む。   Next, the minimum configuration of the work support system according to the present invention will be described. FIG. 5 is a block diagram illustrating a minimum configuration example of the work support system. As shown in FIG. 5, the work support system includes, as the minimum components, a head mounted display device 1 that can display predetermined information, and imaging that can capture the direction of the line of sight of an operator wearing the head mounted display device 1. Means 2 and an information processing device 3 are provided. The head mounted display device 1 includes a control unit 4. Further, the information processing apparatus 3 includes an instruction image generation unit 5.

図5に示す最小構成の作業支援システムでは、指示画像生成手段5は、作業者に指示を与えるオペレータの操作に従って、撮影手段2が撮影した作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成する。そして、制御手段4は、指示画像生成手段5が生成した指示画像をヘッドマウントディスプレイ装置1で表示する際に、指示画像が作業者の視界と重なるように制御する。   In the work support system having the minimum configuration shown in FIG. 5, the instruction image generating means 5 superimposes a predetermined image on the photographed image in the visual line direction of the worker photographed by the photographing means 2 in accordance with the operation of the operator who gives an instruction to the worker. The instruction image is generated. Then, when the instruction image generated by the instruction image generating unit 5 is displayed on the head mounted display device 1, the control unit 4 performs control so that the instruction image overlaps the worker's field of view.

従って、最小構成の作業支援システムによれば、作業者が作業対象から視線を外すことなく、遠隔地から与えられた視覚的な指示をより確実に確認することができる。   Therefore, according to the work support system having the minimum configuration, it is possible to more surely confirm a visual instruction given from a remote place without removing the line of sight from the work target.

なお、本実施形態では、以下の(1)〜(5)に示すような作業支援システムの特徴的構成が示されている。   In this embodiment, the characteristic configuration of the work support system as shown in the following (1) to (5) is shown.

(1)作業支援システムは、所定の情報を表示可能(例えば、半透過ディスプレイ装置120によって実現される)なヘッドマウントディスプレイ装置(例えば、ヘッドマウントディスプレイ装置100)と、ヘッドマウントディスプレイ装置を装着した作業者の視線方向を撮影可能な撮影手段(例えば、Webカメラ110によって実現される)と、情報処理装置(例えば、オペレータ用情報処理装置300によって実現される)とを備え、情報処理装置は、作業者に指示を与えるオペレータの操作(例えば、オペレータの指示操作20)に従って、撮影手段が撮影した作業者の視線方向の撮影画像(例えば、作業者の視界画像10)に所定の画像(例えば、指示ポインタ画像11)を重畳し指示画像(例えば、オペレータの指示画像12)を生成する指示画像生成手段(例えば、リアルタイム画像編集ツール320によって実現される)を含み、ヘッドマウントディスプレイ装置は、指示画像生成手段が生成した指示画像を表示する際に、指示画像が作業者の視界(例えば、作業者の視界30)と重なるように制御する制御手段(例えば、制御手段130によって実現される)を含むことを特徴とする。   (1) The work support system is equipped with a head mounted display device (for example, the head mounted display device 100) capable of displaying predetermined information (for example, realized by the transflective display device 120) and the head mounted display device. An image processing unit (for example, realized by the Web camera 110) capable of capturing the line-of-sight direction of the worker and an information processing apparatus (for example, realized by the operator information processing apparatus 300), In accordance with an operator's operation for giving an instruction to the worker (for example, an instruction operation 20 by the operator), a predetermined image (for example, the worker's visual field image 10) taken by the photographing means in the sight line direction (for example, the worker's visual field image 10). An instruction image (for example, an operator instruction image 12) is superimposed on the instruction pointer image 11). The head-mounted display device displays the instruction image generated by the instruction image generating means when the instruction image is generated by the operator. It includes control means (for example, realized by the control means 130) that controls to overlap with the field of view (for example, the worker's field of view 30).

(2)作業支援システムにおいて、制御手段は、ヘッドマウントディスプレイ装置に設けられた表示部(例えば、半透過ディスプレイ装置120)に指示画像生成手段が生成した指示画像を表示する際に、作業者の焦点距離に合わせて表示部の位置を変更するように制御するように構成されていてもよい。   (2) In the work support system, when the control unit displays the instruction image generated by the instruction image generation unit on the display unit (for example, the transflective display device 120) provided in the head mounted display device, You may be comprised so that it may control so that the position of a display part may be changed according to a focal distance.

(3)作業支援システムにおいて、制御手段は、指示画像生成手段が生成した指示画像を表示する際に、指示画像の拡大率を変更するように制御するように構成されていてもよい。   (3) In the work support system, the control unit may be configured to control to change the enlargement ratio of the instruction image when displaying the instruction image generated by the instruction image generation unit.

(4)作業支援システムにおいて、複数の撮影手段を備え、情報処理装置は、複数の撮影手段がそれぞれ撮影した作業者の視線方向の撮影画像に基づいて立体画像を生成し、ヘッドマウントディスプレイ装置は、生成した立体画像を表示するように構成されていてもよい。   (4) The work support system includes a plurality of photographing units, and the information processing apparatus generates a stereoscopic image based on the photographed images in the gaze direction of the worker photographed by the plurality of photographing units, and the head mounted display device The generated stereoscopic image may be displayed.

(5)作業支援システムにおいて、指示画像生成手段は、生成した立体画像に所定の立体画像を重畳し(例えば、モーションセンサ付きのグローブを用いて実現される)指示画像を生成するように構成されていてもよい。   (5) In the work support system, the instruction image generation unit is configured to generate an instruction image by superimposing a predetermined stereoscopic image on the generated stereoscopic image (for example, realized using a glove with a motion sensor). It may be.

本発明は、遠隔地にいるオペレータの指示に基づく作業や、作業環境や作業対象が随時変化する作業を支援する用途に適用可能である。   INDUSTRIAL APPLICABILITY The present invention can be applied to a use for supporting work based on an instruction from an operator at a remote place, or work whose work environment or work target changes at any time.

1 ヘッドマウントディスプレイ装置
2 撮影手段
3 情報処理装置
4 制御手段
5 指示画像生成手段
100 ヘッドマウントディスプレイ装置
110 Webカメラ
120 半透過ディスプレイ装置
130 制御手段
200 ウェアラブル端末
300 オペレータ用情報処理装置
310 ディスプレイ装置
320 リアルタイム画像編集ツール
DESCRIPTION OF SYMBOLS 1 Head mounted display apparatus 2 Imaging | photography means 3 Information processing apparatus 4 Control means 5 Instruction image generation means 100 Head mounted display apparatus 110 Web camera 120 Transflective display apparatus 130 Control means 200 Wearable terminal 300 Information processing apparatus for operators 310 Display apparatus 320 Real time Image editing tools

Claims (8)

所定の情報を表示可能なヘッドマウントディスプレイ装置と、
前記ヘッドマウントディスプレイ装置を装着した作業者の視線方向を撮影可能な撮影手段と、
情報処理装置とを備え、
前記情報処理装置は、
前記作業者に指示を与えるオペレータの操作に従って、前記撮影手段が撮影した前記作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成する指示画像生成手段を含み、
前記ヘッドマウントディスプレイ装置は、
前記指示画像生成手段が生成した前記指示画像を表示する際に、前記指示画像が前記作業者の視界と重なるように制御する制御手段を含む
ことを特徴とする作業支援システム。
A head-mounted display device capable of displaying predetermined information;
Imaging means capable of imaging the line-of-sight direction of an operator wearing the head-mounted display device;
An information processing device,
The information processing apparatus includes:
In accordance with an operation of an operator that gives an instruction to the worker, an instruction image generating unit that generates a command image by superimposing a predetermined image on a photographed image of the worker's line of sight photographed by the photographing unit,
The head mounted display device is:
A work support system comprising: control means for controlling the instruction image so as to overlap the field of view of the worker when the instruction image generated by the instruction image generation means is displayed.
制御手段は、ヘッドマウントディスプレイ装置に設けられている表示部に指示画像生成手段が生成した指示画像を表示する際に、作業者の焦点距離に合わせて前記表示部の位置を変更するように制御する
請求項1記載の作業支援システム。
The control means controls to change the position of the display unit in accordance with the focal length of the operator when the instruction image generated by the instruction image generation unit is displayed on the display unit provided in the head mounted display device. The work support system according to claim 1.
制御手段は、指示画像生成手段が生成した指示画像を表示する際に、前記指示画像の拡大率を変更するように制御する
請求項1又は請求項2記載の作業支援システム。
The work support system according to claim 1, wherein the control unit performs control so as to change an enlargement ratio of the instruction image when the instruction image generated by the instruction image generation unit is displayed.
複数の撮影手段を備え、
情報処理装置は、前記複数の撮影手段がそれぞれ撮影した作業者の視線方向の撮影画像に基づいて立体画像を生成し、
ヘッドマウントディスプレイ装置は、前記情報処理装置が生成した立体画像を表示する
請求項1から請求項3のうちのいずれか1項に記載の作業支援システム。
A plurality of photographing means,
The information processing apparatus generates a three-dimensional image based on a photographed image in the line of sight of an operator photographed by each of the plurality of photographing means,
The work support system according to any one of claims 1 to 3, wherein the head mounted display device displays a stereoscopic image generated by the information processing device.
指示画像生成手段は、生成した立体画像に所定の立体画像を重畳し指示画像を生成する
請求項4記載の作業支援システム。
The work support system according to claim 4, wherein the instruction image generation unit generates an instruction image by superimposing a predetermined stereoscopic image on the generated stereoscopic image.
ヘッドマウントディスプレイ装置を装着した作業者の視線方向を撮影した撮影画像に所定の画像を重畳した指示画像を表示する際に、前記指示画像が前記作業者の視界と重なるように制御する制御手段を
備えたことを特徴とするヘッドマウントディスプレイ装置。
Control means for controlling the instruction image so that it overlaps the field of view of the operator when displaying an instruction image in which a predetermined image is superimposed on a photographed image obtained by photographing the line-of-sight direction of the worker wearing the head-mounted display device. A head mounted display device comprising the head mounted display device.
ヘッドマウントディスプレイ装置を装着した作業者に指示を与えるオペレータの操作に従って、撮影手段が撮影した前記作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成し、
生成した前記指示画像を前記ヘッドマウントディスプレイ装置で表示する際に、前記指示画像が前記作業者の視界と重なるように制御する
ことを特徴とする作業支援方法。
In accordance with an operator's operation to give an instruction to the worker wearing the head-mounted display device, a predetermined image is superimposed on a photographed image of the worker's line of sight photographed by the photographing means, and an instruction image is generated.
When displaying the generated instruction image on the head-mounted display device, control is performed so that the instruction image overlaps the field of view of the worker.
コンピュータに、
ヘッドマウントディスプレイ装置を装着した作業者に指示を与えるオペレータの操作に従って、撮影手段が撮影した前記作業者の視線方向の撮影画像に所定の画像を重畳し指示画像を生成する指示画像生成処理と、
生成した前記指示画像を前記ヘッドマウントディスプレイ装置で表示する際に、前記指示画像が前記作業者の視界と重なるように制御する制御処理とを
実行させるための作業支援プログラム。
On the computer,
An instruction image generation process for generating an instruction image by superimposing a predetermined image on a photographed image of the worker's line of sight photographed by the photographing means according to an operation of an operator who gives an instruction to the worker wearing the head mounted display device;
A work support program for executing a control process for controlling the instruction image so as to overlap the field of view of the worker when the generated instruction image is displayed on the head mounted display device.
JP2011148306A 2011-07-04 2011-07-04 Work support system, apparatus, method, and program Withdrawn JP2013016020A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011148306A JP2013016020A (en) 2011-07-04 2011-07-04 Work support system, apparatus, method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011148306A JP2013016020A (en) 2011-07-04 2011-07-04 Work support system, apparatus, method, and program

Publications (1)

Publication Number Publication Date
JP2013016020A true JP2013016020A (en) 2013-01-24

Family

ID=47688653

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011148306A Withdrawn JP2013016020A (en) 2011-07-04 2011-07-04 Work support system, apparatus, method, and program

Country Status (1)

Country Link
JP (1) JP2013016020A (en)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015011494A (en) * 2013-06-28 2015-01-19 オリンパス株式会社 Information presentation system and method for controlling information presentation system
WO2015185974A1 (en) * 2014-06-04 2015-12-10 パナソニックIpマネジメント株式会社 Control device and work management system using same
JP2017134575A (en) * 2016-01-27 2017-08-03 セイコーエプソン株式会社 Display device, control method of display device, and program
JP2018149677A (en) * 2018-07-03 2018-09-27 パナソニックIpマネジメント株式会社 Control device and work management system using the same
JP2018174003A (en) * 2018-08-16 2018-11-08 セイコーエプソン株式会社 Display device, display system, control method of display device, and program
JP2018190460A (en) * 2018-08-06 2018-11-29 株式会社東芝 Wearable terminal and method
US10217088B2 (en) 2016-03-08 2019-02-26 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
US10579320B2 (en) 2014-12-26 2020-03-03 Seiko Epson Corporation Display system, display device, information display method, and program
WO2020166491A1 (en) * 2019-02-15 2020-08-20 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
WO2020166492A1 (en) * 2019-02-15 2020-08-20 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP2020134615A (en) * 2019-02-15 2020-08-31 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP2020134629A (en) * 2019-02-15 2020-08-31 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
WO2022137885A1 (en) * 2020-12-22 2022-06-30 株式会社Jvcケンウッド Display device and display method
US11915339B2 (en) 2019-03-04 2024-02-27 Maxell, Ltd. Remote operation instructing system, and mount type device

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015011494A (en) * 2013-06-28 2015-01-19 オリンパス株式会社 Information presentation system and method for controlling information presentation system
WO2015185974A1 (en) * 2014-06-04 2015-12-10 パナソニックIpマネジメント株式会社 Control device and work management system using same
JP2015229210A (en) * 2014-06-04 2015-12-21 パナソニックIpマネジメント株式会社 Control device, and work management system using the former
TWI552094B (en) * 2014-06-04 2016-10-01 松下知識產權經營股份有限公司 Control device and work management system using the same
US11247317B2 (en) 2014-06-04 2022-02-15 Panasonic Intellectual Property Management Co., Ltd. Control device and work management system using same
US11964370B2 (en) 2014-06-04 2024-04-23 Panasonic Intellectual Property Management Co., Ltd. Control device and work management system using same
US11231897B2 (en) 2014-12-26 2022-01-25 Seiko Epson Corporation Display system, display device, information display method, and program
US10579320B2 (en) 2014-12-26 2020-03-03 Seiko Epson Corporation Display system, display device, information display method, and program
JP2017134575A (en) * 2016-01-27 2017-08-03 セイコーエプソン株式会社 Display device, control method of display device, and program
US10572861B2 (en) 2016-03-08 2020-02-25 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
US10217088B2 (en) 2016-03-08 2019-02-26 Kabushiki Kaisha Toshiba Maintenance support method, maintenance support system, and maintenance support program
JP2018149677A (en) * 2018-07-03 2018-09-27 パナソニックIpマネジメント株式会社 Control device and work management system using the same
JP2018190460A (en) * 2018-08-06 2018-11-29 株式会社東芝 Wearable terminal and method
JP2018174003A (en) * 2018-08-16 2018-11-08 セイコーエプソン株式会社 Display device, display system, control method of display device, and program
WO2020166492A1 (en) * 2019-02-15 2020-08-20 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP2020134629A (en) * 2019-02-15 2020-08-31 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP2020134615A (en) * 2019-02-15 2020-08-31 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP7088064B2 (en) 2019-02-15 2022-06-21 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
JP7088068B2 (en) 2019-02-15 2022-06-21 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
US11936986B2 (en) 2019-02-15 2024-03-19 Jvckenwood Corporation Image adjustment system, image adjustment device, and image adjustment method
WO2020166491A1 (en) * 2019-02-15 2020-08-20 株式会社Jvcケンウッド Image adjustment system, image adjustment device, and image adjustment method
US11985298B2 (en) 2019-02-15 2024-05-14 Jvckenwood Corporation Image adjustment system, image adjustor, and image adjustment method
US11915339B2 (en) 2019-03-04 2024-02-27 Maxell, Ltd. Remote operation instructing system, and mount type device
WO2022137885A1 (en) * 2020-12-22 2022-06-30 株式会社Jvcケンウッド Display device and display method

Similar Documents

Publication Publication Date Title
JP2013016020A (en) Work support system, apparatus, method, and program
JP6179927B2 (en) Remote action guidance system and processing method thereof
JP6387825B2 (en) Display system and information display method
JP6264087B2 (en) Display control device, display device, and display control system
US20140240484A1 (en) Support information display method, maintenance support method of substrate processing apparatus, support information display control apparatus, substrate processing system and recording medium
US11544030B2 (en) Remote work-support system
JP2008003781A (en) Operation monitoring system
US20180241967A1 (en) Remote work assistance device, instruction terminal and onsite terminal
JP7058621B2 (en) Video recorder and head-mounted display
JP7078568B2 (en) Display device, display control method, and display system
WO2020194413A1 (en) Maintenance assistance system, maintenance assistance method, and program
JP2010205031A (en) Method, system and program for specifying input position
KR102305405B1 (en) Remote work support system using head mounted display apparatus and augmented reality
JP2018165854A (en) Failure component replacement support method
CN111752221B (en) Control system
JP2003308117A (en) System for maintenance
JP2022088678A (en) Remote maintenance support method
WO2022032688A1 (en) Method for remote assistance and device
EP3502836A1 (en) Method for operating an augmented interactive reality system
JP2021157284A (en) Information processing device, information processing system, and program
JP2022114111A (en) Work support system, work support control device, and work support control program
US11915339B2 (en) Remote operation instructing system, and mount type device
JP2020131361A (en) Maintenance and diagnostic system of industrial machine
JPWO2020194777A1 (en) Maintenance support system, maintenance support method, program and processed image generation method

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20141007