JP2011109463A - Photographing apparatus and remote operation support system - Google Patents

Photographing apparatus and remote operation support system Download PDF

Info

Publication number
JP2011109463A
JP2011109463A JP2009262968A JP2009262968A JP2011109463A JP 2011109463 A JP2011109463 A JP 2011109463A JP 2009262968 A JP2009262968 A JP 2009262968A JP 2009262968 A JP2009262968 A JP 2009262968A JP 2011109463 A JP2011109463 A JP 2011109463A
Authority
JP
Japan
Prior art keywords
unit
photographing
image
subject
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009262968A
Other languages
Japanese (ja)
Inventor
Tetsuya Noda
哲也 野田
Yasushi Tanijiri
靖 谷尻
Takuya Kishimoto
卓也 岸本
Hiromi Yoshii
洋美 吉井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Opto Inc
Original Assignee
Konica Minolta Opto Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Opto Inc filed Critical Konica Minolta Opto Inc
Priority to JP2009262968A priority Critical patent/JP2011109463A/en
Publication of JP2011109463A publication Critical patent/JP2011109463A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a photographing apparatus and a remote operation support system for reducing a user's getting worse in feeling such as visually induced motion sickness because of an image photographed by a camera even in the case of high-speed movement or shake of a head part in a head-mounting camera. <P>SOLUTION: The photographing apparatus 1 includes: an attachment unit 10 attached to the head part; a photographing unit 20 for photographing a subject; an angular velocity sensor unit 30 for detecting an angular velocity of the head part; and a video display control unit 63 for detecting a change in the photographing direction of the photographing unit 20 on the basis of an angular velocity of the head part detected by the angular velocity sensor unit 30 and restricting switching of videos of the subject in displaying a video of the subject photographed by the photographing unit 20 in the case that the detected change in the photographing direction of the photographing unit 20 is a reciprocal movement along a prescribed direction within a prescribed first time. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、頭部に装着されるカメラによって撮影された映像を表示装置に表示する撮影装置およびこの撮影装置を用いた遠隔作業支援システムに関する。   The present invention relates to a photographing device that displays an image photographed by a camera mounted on a head on a display device, and a remote work support system using the photographing device.

頭部に装着される頭部装着式のカメラは、装着者の体験映像を得ることができることから、例えば、前記装着者の体験映像を指示者に送信して指示者から適宜な指示を受信する遠隔作業支援システムや、前記装着者の体験映像を記録しておき適時にこの記録しておいた体験映像を提示することで過去の体験を前記装着者に想起させる日常生活支援システム等に活用されている。また、頭部装着式のカメラは、体験映像を得るために装着者の手を煩わせることがないため、装着者は、手を自由に使える利点もある。   Since the head-mounted camera mounted on the head can obtain a wearer's experience video, for example, the wearer's experience video is transmitted to the instructor and an appropriate instruction is received from the instructor. Used in remote work support systems and daily life support systems that record the wearer's experience video and present the recorded experience video in a timely manner to remind the wearer of past experiences. ing. In addition, the head-mounted camera does not bother the wearer's hand in order to obtain the experience image, and thus there is an advantage that the wearer can use the hand freely.

このような頭部装着式のカメラは、例えば、特許文献1および特許文献2に開示されている。この特許文献1に開示の撮像装置は、撮影者の頭部に装着し得るように構成されたものであり、画像データを生成するための撮像手段と、上記撮影者の頭部に装着し得るように構成されたものであり、被写体を観察するときの上記撮影者の動きに関連する生体情報であって、かつ上記画像データを編集処理する際に用いる生体情報、を検出するための生体情報検出手段と、上記画像データを、該画像データが生成されたタイム情報に関連付けて記録するための画像データ記録手段と、上記生体情報を、上記画像データが生成されたタイム情報に関連付けて記録するための生体情報記録手段とを具備している。上記生体情報検出手段は、上記生体情報として撮影者の頭部の角速度を検出するための角速度検出手段を含み、上記編集処理は、記録された画像データの、カッティングと、ぶれ補正と、記録時間の引き延ばしと、電子ズーミングとの内の少なくとも1つである。上記カッティングは、ぶれ補正等を行うことができない場合に、このぶれ補正等を行うことができない特定の画像に対して行われる。このような構成によって、特許文献1に開示の撮像装置では、撮影者の意思を反映した編集処理を撮影後に行うことができる。   Such head-mounted cameras are disclosed in, for example, Patent Document 1 and Patent Document 2. The imaging device disclosed in Patent Document 1 is configured to be worn on the photographer's head, and can be worn on the photographer's head and imaging means for generating image data. The biometric information for detecting biometric information related to the movement of the photographer when observing the subject and used for editing the image data. Detection means, image data recording means for recording the image data in association with the time information at which the image data was generated, and biometric information recorded in association with the time information at which the image data was generated And biometric information recording means. The biological information detecting means includes angular velocity detecting means for detecting an angular velocity of a photographer's head as the biological information, and the editing process includes cutting, blur correction, and recording time of recorded image data. Is at least one of stretching and electronic zooming. The cutting is performed on a specific image that cannot be subjected to blur correction or the like when the blur correction or the like cannot be performed. With such a configuration, the imaging apparatus disclosed in Patent Document 1 can perform editing processing reflecting the intention of the photographer after shooting.

また、特許文献2に開示の頭部装着式映像表示装置は、映像を表示する表示ユニットと、当該頭部装着式映像表示装置から作業対象物までの距離を検出する距離検出部と、前記表示ユニットに表示させる、作業対象物の参照映像の表示サイズを調整する表示制御部とを備え、前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、前記表示制御部は、前記距離検出部で検出された距離と前記参照映像に添付されている縮尺比情報とに基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整するものである。このような構成によって、特許文献2に開示の頭部装着式映像表示装置は、作業者や指示者へ負担を課することなく、作業に適切なサイズの参照画像を表示することができる。そして、特許文献2には、この頭部装着式映像表示装置を用いた遠隔作業支援システムも開示されている。   In addition, a head-mounted video display device disclosed in Patent Document 2 includes a display unit that displays video, a distance detection unit that detects a distance from the head-mounted video display device to a work object, and the display. A display control unit for adjusting a display size of a reference image of the work object to be displayed on the unit, and the reference image is attached with scale ratio information of the reference image with respect to an actual size of the work object. The display control unit adjusts the display size of the reference video to be displayed on the display unit based on the distance detected by the distance detection unit and the scale ratio information attached to the reference video. is there. With such a configuration, the head-mounted video display device disclosed in Patent Document 2 can display a reference image having a size suitable for work without imposing a burden on the worker or the instructor. Patent Document 2 also discloses a remote work support system using this head-mounted video display device.

特開2005−252732号公報JP 2005-252732 A 特開2008−123257号公報JP 2008-123257 A

ところで、頭部装着式のカメラでは、頭部の動きに伴ってカメラの撮影方向が動くため、頭部が例えば高速に移動したり揺れたりすると、カメラによって撮影された映像も流れたり揺れたりする。このため、このカメラによって撮影された映像を見る観察者は、この撮影映像の揺れにより、映像酔い等の気分が悪くなってしまうことがある。特に、頭部装着式のカメラを頭部に装着した装着者が、肯定や否定を頭部の往復運動による頷き動作で示す場合に、このような事態が顕著に起こり得る。   By the way, in a head-mounted camera, the shooting direction of the camera moves with the movement of the head, so if the head moves or shakes at high speed, for example, the video shot by the camera also flows and shakes. . For this reason, the observer who sees the video image | photographed with this camera may get sick feelings, such as video sickness, by the shake of this picked-up image | video. In particular, such a situation may occur remarkably when a wearer who wears a head-mounted camera on the head shows affirmation or denial by a whirling motion by reciprocating movement of the head.

本発明は、上述の事情に鑑みて為された発明であり、その目的は、頭部装着式のカメラにおいて、頭部が高速に移動したり揺れたりした場合でもあっても、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることを低減することができる撮影装置およびこの撮影装置を用いた遠隔作業支援システムを提供することである。   The present invention has been made in view of the above circumstances, and its purpose is to shoot with this head-mounted camera even if the head moves or shakes at high speed. An imaging device capable of reducing the feeling of sickness such as video sickness due to the recorded video and a remote work support system using the imaging device are provided.

本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる撮影装置は、頭部に装着する装着部と、被写体を撮影する撮影部とを備える頭部装着式撮影部と、前記撮影部の撮影方向の変化を検出する撮影方向検出部と、前記撮影方向検出部で検出された前記撮影部の撮影方向の変化が、所定の第1時間内において所定の方向に沿う往復移動の場合に、前記撮影部によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限する映像表示制御部とを備えることを特徴とする。   As a result of various studies, the present inventor has found that the above object is achieved by the present invention described below. That is, an imaging apparatus according to one aspect of the present invention detects a change in the imaging direction of a head-mounted imaging unit that includes a mounting unit that is mounted on a head and an imaging unit that images a subject. The photographing direction is detected by the photographing unit when the change in the photographing direction of the photographing unit detected by the photographing direction detecting unit and the photographing direction detecting unit is reciprocating along a predetermined direction within a predetermined first time. And a video display control unit that restricts switching of the video of the subject when the video of the subject is displayed.

このような構成の撮影装置では、頭部に装着される頭部装着式撮影部の撮影部における撮影方向の変化が撮影方向検出部によって検出され、その検出された撮影方向の変化が所定の第1時間内において所定の方向に沿う往復移動の場合に、撮影部によって撮影された被写体の映像の切り換えが制限される。この被写体の映像の切り換えが制限されることによって、被写体の映像が例えばコマ落としや略静止画等のように表示され、あるいは例えば非表示とされ、映像酔い等の気分が悪くなることを低減することができる。   In the imaging apparatus having such a configuration, a change in the imaging direction in the imaging unit of the head-mounted imaging unit mounted on the head is detected by the imaging direction detection unit, and the detected change in the imaging direction is detected in a predetermined number. In the case of reciprocal movement along a predetermined direction within one hour, switching of the image of the subject photographed by the photographing unit is limited. By restricting the switching of the subject image, the subject image is displayed as, for example, a frame drop or a substantially still image, or is not displayed, for example, to reduce the feeling of sickness such as video sickness. be able to.

また、他の一撮影装置では、上述の撮影装置において、好ましくは、前記往復移動は、前記撮影方向検出部で検出された前記撮影部の撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化することである。   In another imaging device, in the above-described imaging device, preferably, the reciprocating movement is performed by the imaging direction of the imaging unit detected by the imaging direction detection unit being different by about 180 degrees along the predetermined direction. Change in the direction more than once.

この構成によれば、撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に往復移動と判定する簡易な判定条件としているので、撮影方向検出部や映像表示制御部を比較的簡単な装置や処理で実現することが可能である。   According to this configuration, since the shooting direction is a simple determination condition for determining reciprocal movement when the shooting direction changes twice or more in a direction different by about 180 degrees along the predetermined direction, the shooting direction detection unit and the video display control are used. The unit can be realized by a relatively simple device and processing.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の第1時間は、0.3秒〜3秒であることである。   In another imaging apparatus, in the above-described imaging apparatus, the predetermined first time is preferably 0.3 seconds to 3 seconds.

一例では、頭部が0.3秒〜3秒程度の間に往復移動した場合に、その頭部に装着されたカメラによって撮影された映像を見た観察者は、映像酔い等の気分が悪くなりやすい。上記構成によれば、このような映像酔い等の気分の悪くなりやすい時間帯のうちのいずれかの時間に第1時間を設定しているので、このような事態を効果的に抑制または防止することが可能となる。   In one example, when the head moves back and forth between about 0.3 seconds and 3 seconds, an observer who sees an image taken by a camera attached to the head feels sick, such as motion sickness. Prone. According to the above configuration, since the first time is set at any time in the time zone in which the person is likely to feel sick such as video sickness, such a situation is effectively suppressed or prevented. It becomes possible.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記映像表示制御部は、所定の第2時間の間、前記被写体の映像におけるフレームを更新しないことによって、前記被写体の映像の切り換えを制限することである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the video display control unit does not update a frame in the video of the subject for a predetermined second time, so that the video of the subject is recorded. Is to limit the switching.

この構成によれば、被写体の映像におけるフレームを更新しないので被写体の映像が略静止画となり、被写体の映像におけるフレームを更新しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。   According to this configuration, since the frame in the subject video is not updated, the subject video becomes a substantially still image, and a relatively simple technique that does not update the frame in the subject video can cause a feeling of sickness such as video sickness. Can be reduced or prevented.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記映像表示制御部は、所定の第2時間の間、前記被写体の映像を表示しないことによって、前記被写体の映像の切り換えを制限することである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the video display control unit does not display the video of the subject for a predetermined second time, thereby switching the video of the subject. Is to limit.

この構成によれば、被写体の映像を表示しないので被写体の映像が消え、被写体の映像を表示しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。   According to this configuration, the subject image disappears because the subject image is not displayed, and it is possible to reduce or prevent the feeling of sickness such as image sickness by a relatively simple method of not displaying the subject image. .

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の第2時間は、前記第1時間よりも長く、かつ、1秒〜5秒であることである。   In another imaging apparatus, in the above-described imaging apparatus, the predetermined second time is preferably longer than the first time and 1 second to 5 seconds.

この構成によれば、第2時間中、前記被写体の映像の切り換えを制限することで、映像酔い等の気分の悪くなることを低減または防止することができるとともに、第2時間の経過後に、前記被写体の映像の切り換えの制限を解除し、元に復帰することができる。   According to this configuration, it is possible to reduce or prevent the feeling of sickness such as video sickness by limiting the switching of the image of the subject during the second time, and after the elapse of the second time, The restriction on the switching of the subject image can be canceled and the original can be restored.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の方向は、鉛直方向であることである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the predetermined direction is a vertical direction.

この構成によれば、装着者の頭部における鉛直方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者の歩行の場合や、装着者が肯定を頭部の鉛直方向における往復運動によって示す場合に対処することができる。   According to this configuration, it is possible to cope with a feeling of sickness such as video sickness due to the vertical reciprocation of the wearer's head. In particular, it can be dealt with when the wearer walks or when the wearer shows affirmation by the reciprocating motion of the head in the vertical direction.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の方向は、水平方向であることである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the predetermined direction is a horizontal direction.

この構成によれば、装着者の頭部における水平方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者が否定を頭部の水平方向における往復運動によって示す場合に対処することができる。   According to this configuration, it is possible to cope with the feeling of sickness such as video sickness due to the horizontal reciprocation of the wearer's head. In particular, it is possible to deal with a case where the wearer shows a negative result by a reciprocating motion of the head in the horizontal direction.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、水平センサを備えることである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging direction detection unit includes a horizontal sensor.

この構成によれば、撮影方向の鉛直方向における往復移動を検出するために水平センサを用いるので、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出することができる。   According to this configuration, since the horizontal sensor is used to detect the reciprocal movement in the vertical direction of the photographing direction, the reciprocating movement along the vertical direction in the photographing direction can be detected at a low cost with a relatively simple structure. .

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、角速度センサを備えることである。   In another imaging apparatus, in the above-described imaging apparatus, it is preferable that the imaging direction detection unit includes an angular velocity sensor.

この構成によれば、撮影方向における所定の方向に沿った往復移動を検出するために角速度センサを用いるので、比較的コンパクトで正確に、撮影方向における所定の方向に沿った往復移動を検出することができる。   According to this configuration, since the angular velocity sensor is used to detect the reciprocating movement along the predetermined direction in the photographing direction, the reciprocating movement along the predetermined direction in the photographing direction can be detected relatively compactly and accurately. Can do.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、前記撮影部によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、前記撮影部の撮影方向を検出する対応点探索部を備えることである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging direction detection unit sets a corresponding point between two images of a subject image captured by the imaging unit as a corresponding point. It is provided with the corresponding point search part which detects the imaging | photography direction of the said imaging | photography part by extracting by a search process.

この構成によれば、対応点探索処理の画像処理で撮影方向の変化を検出するので、別途にセンサ部品を必要せず、センサレスでソフトウェアによって撮影方向検出部を構成することが可能となる。   According to this configuration, since the change in the shooting direction is detected by the image processing of the corresponding point search process, it is possible to configure the shooting direction detection unit by software without using a separate sensor component.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記頭部装着式撮影部の撮影部は、前記被写体の光学像を電気的な信号に変換する撮像素子と、前記撮像素子の受光面上に前記被写体の光学像を形成する光学系とを備え、前記撮像素子は、CMOS型イメージセンサであることである。   In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging unit of the head-mounted imaging unit includes an imaging element that converts an optical image of the subject into an electrical signal, and the imaging An optical system that forms an optical image of the subject on the light receiving surface of the element, and the imaging element is a CMOS image sensor.

CMOS型イメージセンサは、各画素の画像信号を順次に走査することによって得ている。このため、頭部が高速に移動したり揺れたりした場合では、映像が歪みやすく、これにより、映像酔い等の気分が悪くなることが、一層、発生しやすい。上記構成によれば、撮影部の撮影方向の変化が撮影方向検出部で検出され、その検出された撮影部の撮影方向の挙動に基づいて表示部に表示される被写体の映像の切り換えが制限されるので、撮影部の撮像素子がCMOS型イメージセンサであっても、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。   The CMOS image sensor is obtained by sequentially scanning the image signal of each pixel. For this reason, when the head moves or shakes at high speed, the image is easily distorted, and it is even more likely that the feeling of sickness such as image sickness is worsened. According to the above configuration, the change in the shooting direction of the shooting unit is detected by the shooting direction detection unit, and switching of the subject image displayed on the display unit is restricted based on the detected behavior of the shooting unit in the shooting direction. Therefore, even if the imaging element of the imaging unit is a CMOS image sensor, it is possible to reduce the feeling of sickness such as video sickness due to the video captured by the imaging unit.

また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する表示部をさらに備えることである。   In another imaging apparatus, in the above-described imaging apparatus, it is preferable that the imaging apparatus further includes a display unit that displays a subject image captured by the imaging unit of the head-mounted imaging unit.

この構成によれば、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する表示部をさらに備えた撮影装置を提供することができる。   According to this configuration, it is possible to provide an imaging apparatus that further includes a display unit that displays an image of a subject captured by the imaging unit of the head-mounted imaging unit.

また、他の一態様では、上述の撮影装置において、好ましくは、前記表示部は、前記頭部装着式撮影部に備えられていることである。   In another aspect, in the above-described imaging device, preferably, the display unit is provided in the head-mounted imaging unit.

この構成によれば、撮影部の撮影方向が撮影方向検出部で検出され、その検出された撮影部の撮影方向に基づいて表示部に表示される被写体の映像の切り換えが制限されるので、表示部が頭部装着式撮影部に備えられている場合であっても、装着者は、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができ、その場で即座に撮影している領域を確認することができる。   According to this configuration, the shooting direction of the shooting unit is detected by the shooting direction detection unit, and switching of the image of the subject displayed on the display unit is limited based on the detected shooting direction of the shooting unit. Even when the head part is provided in the head-mounted imaging unit, the wearer can reduce the feeling of sickness due to video shot by this imaging unit, You can check the area where you are shooting immediately.

また、他の一態様では、これら上述の撮影装置において、好ましくは、音を音信号に変換する音入力部と、音信号を音に変換する音出力と、通信信号を送受信する通信部と、前記通信部の送受信を制御する通信制御部とをさらに備え、前記通信制御部は、前記音入力部によって変換された音信号を前記通信部に送信させるとともに、音を出力させるべく、前記通信部によって受信された音信号を前記音出力部へ出力することである。   In another aspect, in the above-described imaging devices, preferably, a sound input unit that converts sound into a sound signal, a sound output that converts sound signal into sound, a communication unit that transmits and receives communication signals, A communication control unit for controlling transmission / reception of the communication unit, wherein the communication control unit transmits the sound signal converted by the sound input unit to the communication unit and outputs the sound. Is output to the sound output unit.

この構成によれば、装着者は、例えば遠隔作業支援システム等の外部システムと、音声によってコミュニケーションを図ることができる。特に、コミュニケーションによって生じる装着者の動作に対処することができる。   According to this configuration, the wearer can communicate with an external system such as a remote work support system by voice. In particular, it is possible to cope with the wearer's movement caused by communication.

そして、本発明の他の一態様にかかる遠隔作業支援システムは、撮影装置と、通信網を介して前記撮影装置と通信可能に接続される遠隔作業支援装置とを備える遠隔作業支援システムであって、前記撮影装置は、これら上述のいずれかに記載の撮影装置であり、前記遠隔作業支援装置は、前記通信網を介して受信され、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する第2表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えることを特徴とする。   A remote operation support system according to another aspect of the present invention is a remote operation support system including an imaging device and a remote operation support device that is communicably connected to the imaging device via a communication network. The imaging device is any of the above-described imaging devices, and the remote work support device is a subject received by the imaging unit of the head-mounted imaging unit that is received via the communication network. A second display unit for displaying the video and an instruction receiving unit for receiving an instruction from the instructor and transmitting the instruction to the photographing apparatus via the communication network.

このような構成の遠隔作業支援システムは、これら上述のいずれかの撮影装置を備えるので、撮影装置のユーザ(装着者、作業者)の頭部が高速に移動したり揺れたりした場合でもあっても、映像の切り換えの制限によって、遠隔作業支援装置のユーザ(指示者)は、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。   Since the remote operation support system having such a configuration includes any of the above-described imaging devices, the user's head (wearer or operator) of the imaging device may move or shake at high speed. However, the restriction of the switching of the video can reduce the user (instructor) of the remote operation support apparatus from feeling sick due to the video captured by the imaging unit.

本発明にかかる撮影装置および遠隔作業支援システムは、頭部装着式のカメラにおいて、頭部が高速に移動したり揺れたりした場合でもあっても、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることを低減することができる。   The imaging apparatus and the remote operation support system according to the present invention are a head-mounted camera, and even if the head moves or shakes at high speed, the video captured by the camera causes video sickness and the like. It can be reduced that the patient feels bad.

実施形態にかかる遠隔作業支援システムの構成を示す図である。It is a figure which shows the structure of the remote operation assistance system concerning embodiment. 実施形態にかかる遠隔作業支援システムにおける撮影装置の構成を示す外観斜視図である。It is an external appearance perspective view which shows the structure of the imaging device in the remote operation assistance system concerning embodiment. 実施形態にかかる遠隔作業支援システムの撮影装置における表示ユニットの側断面図である。It is a sectional side view of the display unit in the imaging device of the remote operation support system according to the embodiment. 実施形態にかかる遠隔作業支援システムにおける撮影装置の電気的な構成を示すブロック図である。It is a block diagram which shows the electrical structure of the imaging device in the remote operation assistance system concerning embodiment. 本実施形態の遠隔作業支援システムにおける撮影装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the imaging device in the remote operation assistance system of this embodiment. 撮影方向の往復移動が第1態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。It is a time chart for demonstrating operation | movement of the imaging device in the remote operation assistance system of this embodiment in case the reciprocating movement of an imaging | photography direction is a 1st aspect. 撮影方向の往復移動が第2態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。It is a time chart for demonstrating operation | movement of the imaging device in the remote operation assistance system of this embodiment in case the reciprocating movement of an imaging | photography direction is a 2nd aspect. 撮影方向の往復移動が第3態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。It is a time chart for demonstrating operation | movement of the imaging device in the remote operation assistance system of this embodiment in case the reciprocating movement of an imaging | photography direction is a 3rd aspect. 実施形態にかかる遠隔作業支援システムにおける撮影装置の他の電気的な構成を示すブロック図である。It is a block diagram which shows the other electric structure of the imaging device in the remote operation assistance system concerning embodiment.

以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。   Hereinafter, an embodiment according to the present invention will be described with reference to the drawings. In addition, the structure which attached | subjected the same code | symbol in each figure shows that it is the same structure, The description is abbreviate | omitted suitably.

図1は、実施形態にかかる遠隔作業支援システムの構成を示す図である。図2は、実施形態にかかる遠隔作業支援システムにおける撮影装置の構成を示す外観斜視図である。図3は、実施形態にかかる遠隔作業支援システムの撮影装置における表示ユニットの側断面図である。図4は、実施形態にかかる遠隔作業支援システムにおける撮影装置の電気的な構成を示すブロック図である。   FIG. 1 is a diagram illustrating a configuration of a remote operation support system according to the embodiment. FIG. 2 is an external perspective view illustrating a configuration of the imaging device in the remote operation support system according to the embodiment. FIG. 3 is a side sectional view of the display unit in the photographing apparatus of the remote operation support system according to the embodiment. FIG. 4 is a block diagram illustrating an electrical configuration of the imaging apparatus in the remote operation support system according to the embodiment.

実施形態にかかる遠隔作業支援システムは、作業者における所定の方向の被写体を撮影し、この撮影した被写体の映像を前記作業者とは離れた別の場所に居る指示者が観察することができるように表示し、この被写体の映像を参照した前記指示者の指示を前記作業者に提供するシステムである。このような遠隔作業支援システムSは、例えば、図1ないし図4に示すように、作業者Wに使用され、作業者Wにおける所定の方向、例えば作業者Wの視線方向の例えば作業対象物等の被写体を撮影し、この撮影した被写体の映像を送信する撮影装置1と、ネットワーク(通信網)NTを介してこの撮影装置1によって撮影された被写体の映像を受信し、指示者Aが見ることができるようにこの受信した被写体の映像を表示し、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示を撮影装置1から出力させるべく、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信する遠隔支援装置5とを備えて構成されている。   The remote operation support system according to the embodiment images a subject in a predetermined direction of the worker so that an instructor in a different place away from the worker can observe the image of the photographed subject. The instruction of the instructor referring to the image of the subject is provided to the worker. Such a remote work support system S is used by a worker W as shown in FIGS. 1 to 4, for example, a work target in a predetermined direction of the worker W, for example, the line of sight of the worker W, etc. The instructor A receives the image of the subject photographed by the photographing device 1 via the network (communication network) NT, and the photographing device 1 that shoots the subject and transmits the image of the photographed subject. The received instruction is displayed so that the received image of the subject is displayed, the instruction of the instructor A referring to the image of the object is received, and the instruction of the received instruction A is output from the photographing apparatus 1. And a remote support device 5 that transmits an instruction of the person A to the photographing device 1 via the network NT.

遠隔支援装置5は、撮影装置1から離れた場所に設けられ、撮影装置1と互いにデータを交換することができるように、ネットワークNTを介して通信可能に撮影装置1と接続され、例えば、図1に示すように、メインサーバコンピュータ装置(以下、「メインサーバPC」と略記する。)6と、支援記録サーバコンピュータ装置(以下、「支援記録サーバPC」と略記する。)7と、コンテンツサーバコンピュータ装置(以下、「コンテンツサーバPC」と略記する。)8とを備えて構成される。   The remote support device 5 is provided at a location distant from the photographing device 1 and is connected to the photographing device 1 through the network NT so as to be able to exchange data with the photographing device 1. 1, a main server computer device (hereinafter abbreviated as “main server PC”) 6, a support record server computer device (hereinafter abbreviated as “support record server PC”) 7, and a content server. And a computer device (hereinafter abbreviated as “content server PC”) 8.

ネットワークNTは、例えば、電話網、ディジタル通信網および無線通信網等の通信網であり、所定の通信プロトコルを用いてデータが伝送される。本実施形態では、ネットワークNTは、例えば公衆電話網(固定電話網)、ISDN等のディジタル通信網および移動体電話網(携帯電話網)等の公衆ネットワークNTaと、例えばイーサネット(登録商標)等のローカル・エリア・ネットワーク(LAN;プライベートネットワーク)NTbとを備えて構成される。公衆ネットワークNTaは、例えば、通信プロトコルにFTP(File Transfer Protocol)やTCP/IP(Transmission Control Protocol/Internet Protocol)等のインターネットプロトコルが用いられてインターネットを構成し、プライベートネットワークNTbは、例えば、前記インターネットプロトコルが用いられてイントラネットを構成する。撮影装置1は、公衆ネットワークNTaと通信可能に接続され、遠隔支援装置5のメインサーバPC6、支援記録サーバPC7およびコンテンツサーバPC7の各サーバPCは、互いにデータを交換することができるように、プライベートネットワークNTbと通信可能に接続され、そして、公衆ネットワークNTaとプライベートネットワークNTbとは、通信可能に接続されている。   The network NT is, for example, a communication network such as a telephone network, a digital communication network, and a wireless communication network, and data is transmitted using a predetermined communication protocol. In the present embodiment, the network NT is a public network NTa such as a public telephone network (fixed telephone network), a digital communication network such as ISDN, and a mobile telephone network (cellular phone network), and an Ethernet (registered trademark), for example. And a local area network (LAN; private network) NTb. The public network NTa configures the Internet by using an Internet protocol such as FTP (File Transfer Protocol) or TCP / IP (Transmission Control Protocol / Internet Protocol) as a communication protocol, and the private network NTb is, for example, the Internet A protocol is used to construct an intranet. The photographing apparatus 1 is communicably connected to the public network NTa, and the main server PC 6, the support recording server PC 7, and the content server PC 7 of the remote support apparatus 5 are private so that they can exchange data with each other. The network NTb is communicably connected, and the public network NTa and the private network NTb are communicably connected.

メインサーバPC6は、ネットワークNTを介して撮影装置1から受信した被写体の映像を表示するとともに、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信するサーバコンピュータであり、例えば、メインサーバPC6の全体制御を司るコンピュータ161と、指示者Aの指示を受け付け、入力するための例えばキーボード162aやマウス162b等の入力装置162と、例えば映像を表示するディスプレイ163a等の出力装置163とを備えて構成される。   The main server PC 6 displays the video of the subject received from the photographing apparatus 1 via the network NT, accepts the instruction of the instructor A referring to the video of the subject, and sends the received instruction of the instructor A to the network NT. Is a server computer that transmits to the imaging device 1 via, for example, a computer 161 that controls the entire main server PC 6 and an input device such as a keyboard 162a or a mouse 162b for receiving and inputting an instruction from the instructor A 162 and an output device 163 such as a display 163a for displaying an image, for example.

なお、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。   In the present specification, when referring generically, it is indicated by a reference symbol without a suffix, and when referring to an individual configuration, it is indicated by a reference symbol with a suffix.

このコンピュータ161は、ネットワークNT(プライベートネットワークNTb)と通信可能に接続するための、撮影装置1における後述のネットワークインタフェース部68と同様の通信インタフェース回路(ネットワークカード)を備えており、撮影装置1からネットワークNTを介して受信した被写体の映像をディスプレイ163aに表示するとともに、キーボード162aやマウス162bから受け付けた(入力された)指示者Aの指示をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における後述の表示ユニット40に表示される。   The computer 161 includes a communication interface circuit (network card) similar to a network interface unit 68 (to be described later) in the photographing apparatus 1 for communicably connecting to the network NT (private network NTb). Control of displaying the image of the subject received via the network NT on the display 163a and transmitting the instruction of the instructor A received (input) from the keyboard 162a and the mouse 162b to the photographing apparatus 1 via the network NT. Do. The instruction from the instructor A is received by the photographing apparatus 1 via the network NT and displayed on a display unit 40 described later in the photographing apparatus 1.

支援記録サーバPC7は、撮影装置1と遠隔支援装置5との間でやり取りされた支援データを記憶して記録し、クライアント装置の要求に従ってこの要求に対応する支援データをクライアント装置に提供するサーバコンピュータである。支援記憶サーバPC7は、コンピュータ161の制御に従って、あるいは、プライベートネットワークNTbを伝送する通信信号を監視(モニタ)することによって独自に、撮影映像装置1による被写体の映像を日付や時刻等の日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの指示を日付や時刻等の日時情報と対応付けて支援データとして記録する。このように支援記録サーバPC7は、遠隔作業支援システムSの履歴として支援データを保存し、記録する。   The support recording server PC 7 stores and records support data exchanged between the photographing apparatus 1 and the remote support apparatus 5 and provides support data corresponding to the request to the client apparatus according to the request of the client apparatus. It is. The support storage server PC7 independently displays the video of the subject by the photographic video apparatus 1 with date / time information such as date and time under the control of the computer 161 or by monitoring (monitoring) the communication signal transmitted through the private network NTb. The support data is recorded in association with each other, and the instruction of the worker A by the remote support device 5 is recorded as support data in association with date / time information such as date and time. As described above, the support record server PC 7 stores and records support data as a history of the remote work support system S.

そして、本実施形態の遠隔作業支援システムSは、映像だけでなく、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができるように構成されており、撮影装置1には、後述するように、音入出力ユニット50としてイヤホン51L、51Rとマイクロホン52とを備えており、メインサーバPC6には、入力装置162としてマイクロホン162cをさらに備え、出力装置163としてスピーカ163bをさらに備えている。そして、コンピュータ161は、撮影装置1からネットワークNTを介して受信した音声等の音(マイクロホン52で集音した音)をスピーカ163bから出力するとともに、マイクロホン162cから受け付けた(入力された)指示者Aの指示(音声指示)をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの音声指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における前記イヤホン51L、51Rから出力される。また、支援記録サーバPC7は、コンピュータ161の制御に従って、あるいは、独自に、撮影装置1による前記音を日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの音声指示を日時情報と対応付けて支援データとして記録する。   The remote operation support system S of the present embodiment is configured so that not only video but also sound such as voice can be exchanged between the image capturing device 1 and the remote support device 5. As will be described later, the device 1 includes earphones 51L and 51R as a sound input / output unit 50 and a microphone 52. The main server PC6 further includes a microphone 162c as an input device 162, and a speaker as an output device 163. 163b is further provided. Then, the computer 161 outputs a sound such as a sound received from the photographing apparatus 1 via the network NT (a sound collected by the microphone 52) from the speaker 163b and receives (inputs) the instruction from the microphone 162c. Control is performed to transmit the instruction A (voice instruction) to the photographing apparatus 1 via the network NT. The voice instruction of the instructor A is received by the photographing apparatus 1 via the network NT and output from the earphones 51L and 51R in the photographing apparatus 1. Further, the support recording server PC7 records the sound from the photographing apparatus 1 as support data in association with date / time information according to the control of the computer 161 or independently, and also gives the voice instruction of the worker A by the remote support apparatus 5 It is recorded as support data in association with date and time information.

そして、本実施形態における遠隔作業支援システムSでは、指示者Aの指示には、作業者Wが遠隔支援装置5へ直接入力した例えばテキストデータや音声指示等のデータだけでなく、例えば作業対象物を表す参照映像や、作業手順を示す作業マニュアルや、製品の取り扱い方を示す取り扱い説明書等の、作業者Wが作業を行う際にその作業の支援となる映像や音声等の支援コンテンツ(支援情報)も含まれる。コンテンツサーバPC8は、この支援コンテンツを格納し、クライアント装置の要求に従ってこの要求に対応する支援コンテンツをクライアント装置に提供するサーバコンピュータである。メインサーバPC6のコンピュータ161は、キーボード162aやマウス162bから指示者Aの支援コンテンツを選択する指示(コンテンツ選択指示)を受け付け、このコンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信するようにコンテンツサーバPC8を制御する。コンテンツサーバPC8は、コンピュータ161の制御に従って、コンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信し、撮影装置1に支援コンテンツを提供する。   In the remote work support system S according to the present embodiment, the instruction from the instructor A includes not only data such as text data and voice instructions directly input to the remote support device 5 by the worker W, but also work objects, for example. Support content such as video and audio that assists the work when the worker W performs work, such as a reference video representing work, a work manual showing work procedures, and an instruction manual showing how to handle the product. Information). The content server PC 8 is a server computer that stores the support content and provides support content corresponding to the request to the client device according to the request of the client device. The computer 161 of the main server PC 6 receives an instruction (content selection instruction) for selecting support content of the instructor A from the keyboard 162a and the mouse 162b, and sends support content corresponding to the content selection instruction via the network NT. The content server PC8 is controlled so as to be transmitted to. Under the control of the computer 161, the content server PC8 transmits support content corresponding to the content selection instruction to the image capturing device 1 via the network NT, and provides the support content to the image capturing device 1.

このような遠隔支援装置5と組み合わせて好適に使用される撮影装置1は、作業者Wの頭部に装着され、作業者W(装着者)の視線方向に略沿った被写体を撮影し、この撮影した被写体の映像をネットワークNTを介して遠隔支援装置5へ送信する頭部装着式の撮影装置(カメラ)であり、例えば、図2ないし図4に示すように、装着ユニット10と、撮影ユニット20と、角速度センサユニット30と、表示ユニット40と、音入出力ユニット50と、制御ユニット60とを備えて構成される。   An imaging device 1 that is preferably used in combination with such a remote support device 5 is worn on the head of the worker W, photographs a subject that is substantially along the line of sight of the worker W (wearer), and A head-mounted imaging device (camera) that transmits a photographed subject image to the remote support device 5 via the network NT. For example, as shown in FIGS. 2 to 4, a mounting unit 10 and an imaging unit 20, an angular velocity sensor unit 30, a display unit 40, a sound input / output unit 50, and a control unit 60.

装着ユニット10は、作業者Wの頭部に装着するための装置であり、本実施形態では、視力矯正用のメガネを模した構造で構成されている。すなわち、本実施形態の装着ユニット10は、左右一対のテンプル11L、11Rと、ブリッジ12と、左右一対の鼻パッド13L、13Rと、左右一対の透明部材14L、14Rとを備えて構成されている。   The mounting unit 10 is a device for mounting on the head of the worker W, and in the present embodiment, has a structure imitating glasses for correcting vision. That is, the mounting unit 10 of the present embodiment includes a pair of left and right temples 11L and 11R, a bridge 12, a pair of left and right nose pads 13L and 13R, and a pair of left and right transparent members 14L and 14R. .

テンプル11L、11Rは、例えば弾性素材等から構成される長尺棒状の部材であり、その一方端部には装着者(ここでは作業者W)の耳に掛けられる耳掛け部分を有し、その他方端部には回動部11La、11Raを介して透明部材14L、14Rに固定されて保持する保持部分を有しており、作業者Wの耳や側頭部に掛け止められ、作業者Wの頭部への保持および装着位置を調整するためのものである。テンプル11L、11Rと透明部材14L、14Rとの固定には、例えば接着剤による接着やねじによるねじ留め等の固定手段が用いられる。また、撮影装置1は、回動部11La、11Raによる回動により、テンプル11L、11Rを互いに回転方向の異なる矢印P、Q方向へ回動させて、テンプル11L、11Rを透明部材14L、14Rに沿わせることによって、不使用時にコンパクトに折り畳めるようになっている。   The temples 11L and 11R are elongate rod-shaped members made of, for example, an elastic material, and have an ear-hook portion that is hung on the ear of the wearer (here, worker W) at one end. The end portion has a holding portion that is fixed to and held by the transparent members 14L and 14R via the rotating portions 11La and 11Ra, and is hooked on the ear or the temporal region of the worker W. This is for adjusting the holding position on the head and the mounting position. For fixing the temples 11L, 11R and the transparent members 14L, 14R, for example, fixing means such as bonding with an adhesive or screwing with screws is used. In addition, the photographing apparatus 1 rotates the temples 11L and 11R in the directions of arrows P and Q having different rotation directions by the rotation of the rotation units 11La and 11Ra, so that the temples 11L and 11R become the transparent members 14L and 14R. By keeping it along, it can be folded compactly when not in use.

ブリッジ12は、左右一対の透明部材14L、14Rを互いに連結するための短尺棒状の部材であり、テンプル11L、11Rの固定手段と同様の手段によって、その両端で透明部材14L、14Rに固定される。左右一対の透明部材14L、14Rは、このブリッジ12によって一定の間隔を空けた相対位置関係で保持される。   The bridge 12 is a short bar-like member for connecting the pair of left and right transparent members 14L and 14R to each other, and is fixed to the transparent members 14L and 14R at both ends by means similar to the means for fixing the temples 11L and 11R. . The pair of left and right transparent members 14 </ b> L and 14 </ b> R are held by the bridge 12 in a relative positional relationship with a predetermined interval.

鼻パッド13L、13Rは、装着ユニット10の装着者(ここでは作業者W)に対する顔面への保持を行うための部材であり、各脚部を介してブリッジ12に接続されている。   The nose pads 13 </ b> L and 13 </ b> R are members for holding the mounting unit 10 on the face of the wearer (here, the worker W), and are connected to the bridge 12 through each leg.

透明部材14L、14Rは、例えばポリカーボネートやポリメチルメタクリレート等の樹脂やガラス等の可視光線に対し透明な素材等から構成され、視力矯正用のメガネレンズの外形形状のような、角を丸く縁取りした長方形状の板状部材である。もちろん、透明部材14L、14Rは、撮影装置1の本来の機能の観点において視力矯正用の調整度数を備える必要はないが、視力矯正用の調整度数を備えていても良い。透明部材14L、14Rの一方には、本実施形態では、右眼に対応する透明部材14Rに表示ユニット40の接眼光学系41を嵌め込むための略U字形状の切り欠き部14Rsが形成されている。   The transparent members 14L and 14R are made of a material that is transparent to visible light, such as a resin such as polycarbonate or polymethyl methacrylate, or glass, and have rounded corners such as the outer shape of a spectacle lens for correcting vision. It is a rectangular plate-shaped member. Of course, the transparent members 14L and 14R do not have to have an adjustment power for correcting vision from the viewpoint of the original function of the photographing apparatus 1, but may have an adjustment power for correcting vision. In this embodiment, a substantially U-shaped cutout portion 14Rs for fitting the eyepiece optical system 41 of the display unit 40 to the transparent member 14R corresponding to the right eye is formed on one of the transparent members 14L and 14R. Yes.

これらテンプル11L、11R、ブリッジ12および鼻パッド13L、13Rによっていわゆるメガネフレームが構成され、このメガネフレームが装着者に対し掛け止められ、透明部材14L、14Rが装着者の眼に対し所定の状態(所定の距離、所定の位置)で装着される。   These temples 11L and 11R, the bridge 12 and the nose pads 13L and 13R constitute a so-called spectacle frame. The spectacle frame is hooked on the wearer, and the transparent members 14L and 14R are in a predetermined state (see FIG. It is mounted at a predetermined distance and a predetermined position.

なお、本実施形態では、装着ユニット10は、テンプル11L、11Rおよびブリッジ12によって透明部材14L、14Rを固定、保持するように構成されたが、左右一対のリムを備え、この各リムを介して透明部材14L、14Rを固定、保持するように構成されてもよい。この各リムは、例えば内溝を持った環状または半環状の部材であり、この環または半環に透明部材14L、14Rの外周部分を嵌め込むことによって透明部材14L、14Rを固定、保持するものである。   In the present embodiment, the mounting unit 10 is configured to fix and hold the transparent members 14L and 14R by the temples 11L and 11R and the bridge 12, but includes a pair of left and right rims, and through these rims. The transparent members 14L and 14R may be configured to be fixed and held. Each rim is, for example, an annular or semi-annular member having an inner groove, and the transparent members 14L and 14R are fixed and held by fitting the outer peripheral portions of the transparent members 14L and 14R into the ring or semi-ring. It is.

撮影ユニット20は、例えば作業物体や装着者(ここでは作業者W)の周囲の外界情景等の被写体を撮影する装置であり、装着者(作業者W)に装着され前記装着者が前方略水平方向を見た場合に、その光軸が装着者の視線方向に略一致するように、装着ユニット10に対し固定的に保持される。これによって撮影ユニット20は、装着者の前方視野内を撮影することが可能となる。本実施形態では、撮影ユニット20は、表示ユニット本体45の一方端部に外付けされており、表示ユニット本体45が接眼光学系41を介して装着ユニット10の透明部材14Rに固定的に取り付けられることによって、装着ユニット10に対し固定的に保持される。このように撮影ユニット20は、本実施形態では、装着者(ここでは作業者W)の視野内撮影カメラとして機能し、また装着ユニット10に保持されるので、撮影装置1がコンパクトに構成され、また作業者Wは、ハンズフリーとなって、両手を使った作業が可能となる。なお、撮影ユニット20を装着ユニット10に前記光軸と前記視線方向に略一致するように固定的に保持する機構は、撮影ユニット20が脱着可能な構造であってもよい。このように構成することによって撮影ユニット20を適宜に変えることができる。   The photographing unit 20 is a device that photographs a subject such as a work object or an external scene around the wearer (worker W in this case), and is attached to the wearer (worker W) so that the wearer is substantially horizontal in front. When viewed in the direction, the optical axis is fixedly held with respect to the mounting unit 10 so that the optical axis substantially coincides with the line of sight of the wearer. As a result, the photographing unit 20 can photograph within the wearer's front visual field. In the present embodiment, the photographing unit 20 is externally attached to one end of the display unit main body 45, and the display unit main body 45 is fixedly attached to the transparent member 14R of the mounting unit 10 via the eyepiece optical system 41. Thus, the mounting unit 10 is fixedly held. Thus, in this embodiment, the imaging unit 20 functions as a camera within the field of view of the wearer (here, worker W) and is held by the mounting unit 10, so that the imaging device 1 is configured in a compact manner. Also, the operator W becomes hands-free and can perform work using both hands. Note that the mechanism that holds the photographing unit 20 fixedly to the mounting unit 10 so as to substantially coincide with the optical axis may be a structure that allows the photographing unit 20 to be detachable. With this configuration, the photographing unit 20 can be appropriately changed.

撮影ユニット20は、例えば、図4に示すように、撮影光学系21と、撮像素子22と、アナログフロントエンド23と、映像制御部24とを備えて構成される。   For example, as illustrated in FIG. 4, the photographing unit 20 includes a photographing optical system 21, an imaging element 22, an analog front end 23, and a video control unit 24.

撮影光学系21は、被写体の光学像(光像)を撮像素子22の受光面に結像するための光学系である。撮影光学系21は、単焦点光学系であってもよく、またズーミングすべくズーム機能を備えた変倍光学系であってもよい。また撮影光学系21は、オートフォーカス(AF)機能を備えて構成されてよい。   The photographing optical system 21 is an optical system for forming an optical image (light image) of a subject on the light receiving surface of the image sensor 22. The photographing optical system 21 may be a single focus optical system or a variable magnification optical system having a zoom function for zooming. Further, the photographing optical system 21 may be configured to have an autofocus (AF) function.

撮像素子22は、この撮影光学系21によって受光面上に形成された被写体の光学像における光量に応じてR(赤)、G(緑)、B(青)の各成分の画像信号に光電変換してアナログフロントエンド23へ出力する装置である。撮像素子22には、例えば、CCD型カラーイメージセンサやCMOS型カラーイメージセンサ等が用いられる。本実施形態では、CMOS型カラーイメージセンサが用いられ、このCMOS型カラーイメージセンサは、例えば、R(赤)光、G(緑)光、B(青)光の各光に対応した各色透過フィルタをピクセル単位(画素単位)で市松模様に配置されたカラーエリア撮影センサであって、撮影光学系21により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各成分の画像信号(各画素単位で受光された画素信号の信号列から成る信号)に光電変換するものである。CMOS型イメージセンサは、2次元配列された複数の画素から所定の順序に従って順番に各画素信号を読み出すように構成される。より具体的には、例えば、m行n列の画素でCMOS型イメージセンサが構成されている場合に、1行1列の画素から1行n列まで各列の画素信号が行方向に沿って順次に読み出され、1行n列まで読み出すと、次行の画像信号を読み出すべく次行の1列目に戻り、同様に、次行の1列からn列まで各列の画素信号が行方向に沿って順次に読み出され、そして、このような画素信号の読み出しがm行n列まで実行される。このため、CMOS型イメージセンサでは、最初の画素の読み出し時刻と、最後の画素の読み出し時刻とには、所定時間の差が生じている。   The image sensor 22 performs photoelectric conversion into image signals of R (red), G (green), and B (blue) components in accordance with the amount of light in the optical image of the subject formed on the light receiving surface by the photographing optical system 21. And output to the analog front end 23. For example, a CCD type color image sensor, a CMOS type color image sensor, or the like is used for the imaging element 22. In the present embodiment, a CMOS color image sensor is used, and the CMOS color image sensor is, for example, each color transmission filter corresponding to each light of R (red) light, G (green) light, and B (blue) light. Is a color area photographing sensor arranged in a checkered pattern in pixel units (pixel units), and subject light images formed by the photographing optical system 21 are R (red) light, G (green) light, B ( Blue) This is photoelectrically converted into an image signal of each component of light (a signal composed of a signal sequence of pixel signals received in units of pixels). The CMOS image sensor is configured to read out each pixel signal in order from a plurality of pixels arranged two-dimensionally in a predetermined order. More specifically, for example, when a CMOS type image sensor is configured with pixels of m rows and n columns, pixel signals of each column from the pixels of 1 row and 1 column to 1 row and n columns are along the row direction. When sequentially read and read up to 1 row and n column, it returns to the first column of the next row in order to read out the image signal of the next row, and similarly, the pixel signals of each column from the 1st column to the nth column of the next row The pixel signals are sequentially read out in the direction, and such pixel signal reading is executed up to m rows and n columns. For this reason, in the CMOS image sensor, there is a predetermined time difference between the readout time of the first pixel and the readout time of the last pixel.

アナログフロントエンド23は、所定の基準クロックに基づいて撮像素子22の駆動を制御し、撮像素子22で得られた画像信号に周知のアナログ信号処理を施した後にディジタル映像信号に変換し、映像制御部24へ出力する回路である。   The analog front end 23 controls the driving of the image sensor 22 based on a predetermined reference clock, performs a known analog signal process on the image signal obtained by the image sensor 22, converts the image signal into a digital video signal, and controls the video. It is a circuit that outputs to the unit 24.

映像制御部24は、アナログフロントエンド23から入力された映像信号に、例えば黒レベル補正処理、画素補間処理、ホワイトバランス調整処理、ガンマ(γ)補正処理、シェーディング補正処理等の、周知の画像処理を施す回路である。映像制御部24は、アナログフロントエンド23から入力された映像信号を、CMOS型カラーイメージセンサにおける画像信号の読み出しクロックに同期して、制御ユニット60内の画像メモリ61に書き込む。すなわち、映像信号は、アナログフロントエンド23から一旦画像メモリ61に書き込まれ、所定の各画像処理が施される際に、画像メモリ61から映像制御部24に読み込まれ、各画像処理が施される。そして、これら各画像処理の施された映像信号は、再度、画像メモリ61に書き込まれ、記憶(格納)される。   The video control unit 24 performs well-known image processing such as black level correction processing, pixel interpolation processing, white balance adjustment processing, gamma (γ) correction processing, shading correction processing, and the like on the video signal input from the analog front end 23. It is the circuit which applies. The video control unit 24 writes the video signal input from the analog front end 23 in the image memory 61 in the control unit 60 in synchronization with the image signal readout clock in the CMOS type color image sensor. That is, the video signal is once written from the analog front end 23 to the image memory 61, and when predetermined image processing is performed, the video signal is read from the image memory 61 to the video control unit 24 and subjected to each image processing. . Then, the video signals subjected to these image processes are written again in the image memory 61 and stored (stored).

角速度センサユニット30は、装着ユニット10に対し固定的に保持されている撮影ユニット20の撮影方向を検出するために、装着者(ここでは作業者W)の頭部の角速度を検出し、検出結果を制御ユニット60へ出力する装置である。角速度センサユニット30は、本実施形態では、例えば、装着者(作業者W)の頭部における鉛直方向の角速度を検出する回路である鉛直方向角速度センサ部31と、装着者(作業者W)の頭部における水平方向の角速度を検出する回路である水平方向角速度センサ部32とを備えて構成される。より具体的には、角速度センサユニット30は、2軸の角速度を検出することができる2軸圧電振動ジャイロセンサを備えて構成され、装着ユニット10に固定的に取り付けられる表示ユニット本体45内に内蔵されている。ここで、角速度センサユニット30で検出された角速度を積分することによって頭部の方向を算出することも可能である。このように本実施形態では、撮影方向における所定の方向に沿った往復移動を検出するためのセンサとして、加速度センサが用いられているので、比較的コンパクトで正確に、撮影方向における所定の方向に沿った往復移動を検出するためのセンサを構成することが可能となる。   The angular velocity sensor unit 30 detects the angular velocity of the head of the wearer (here, the worker W) in order to detect the shooting direction of the shooting unit 20 that is fixedly held with respect to the mounting unit 10, and the detection result Is output to the control unit 60. In this embodiment, the angular velocity sensor unit 30 includes, for example, a vertical angular velocity sensor unit 31 that is a circuit for detecting a vertical angular velocity in the head of the wearer (worker W) and the wearer (worker W). And a horizontal angular velocity sensor unit 32 that is a circuit for detecting a horizontal angular velocity in the head. More specifically, the angular velocity sensor unit 30 includes a biaxial piezoelectric vibration gyro sensor that can detect biaxial angular velocities, and is built in a display unit main body 45 that is fixedly attached to the mounting unit 10. Has been. Here, it is also possible to calculate the head direction by integrating the angular velocity detected by the angular velocity sensor unit 30. As described above, in the present embodiment, since the acceleration sensor is used as a sensor for detecting reciprocation along a predetermined direction in the photographing direction, it is relatively compact and accurate in a predetermined direction in the photographing direction. It is possible to configure a sensor for detecting reciprocating movement along.

表示ユニット40は、所定の画像(映像)を表示する装置であり、遠隔支援装置5からネットワークNTを介して送信されてきた指示者Aの指示を表示するものである。前記指示者Aの指示には、上述したように、指示者Aが遠隔支援装置5へ直接入力した例えばテキストデータ等のデータだけでなく、作業者Wが作業を行う際にその作業の支援となる映像や音声等のコンテンツサーバPC8による支援コンテンツも含まれる。そして、本実施形態では、表示ユニット40は、撮影ユニット20の電子ファインダの機能を兼ねており、撮影ユニット20によって撮影された映像も表示することができるようにされている。撮影ユニット20によって撮影された被写体の映像が別体の表示装置に表示される場合には、作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために前記表示装置の方に向かなければならないが、これによって撮影ユニット20の撮影者である作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために、その頭部の方向を変える必要がなく、視線をそらせる必要もなく、作業者W自信が撮影ユニット20によって撮影している領域(被写体)を正確に認識することができる。   The display unit 40 is a device that displays a predetermined image (video), and displays the instruction of the instructor A transmitted from the remote support device 5 via the network NT. As described above, the instruction by the instructor A includes not only data such as text data directly input by the instructor A directly to the remote support device 5, but also support of the work when the worker W performs the work. Supporting content by the content server PC 8 such as video and audio is also included. In the present embodiment, the display unit 40 also functions as an electronic viewfinder of the photographing unit 20 and can display an image photographed by the photographing unit 20. When an image of a subject photographed by the photographing unit 20 is displayed on a separate display device, the operator W can use the display device to view a region (subject) photographed by the photographing unit 20. However, the operator W who is the photographer of the photographing unit 20 does not need to change the direction of the head in order to see the region (subject) photographed by the photographing unit 20. Therefore, it is possible to accurately recognize the region (subject) that the operator W is photographing with the photographing unit 20 without having to deflect the line of sight.

表示ユニット40は、装着ユニット10に取り付けられることなく別体で構成されてもよいが、作業者Wの視界内に指示者Aの指示を表示し、作業者Wが指示者Aの指示を参照しながら作業を行うことができるように、本実施形態では、装着ユニット10に、しかも一方の透明部材14Rに取り付けられている。このような表示ユニット40は、例えば、図2ないし図4に示すように、接眼光学系41と、映像生成部42と、照明光学系43と、光源部44と、これら映像生成部42、照明光学系43および光源部44を収容するとともに接眼光学系41に取り付けられる筐体である表示ユニット本体45とを備えて構成される。表示ユニット本体45には、上述したように、その一方端に撮影ユニット20が外付けされており、角速度センサユニット30が内蔵され、そして、底面から外部に接眼光学系41が延びている。さらに、表示ユニット本体45の他方端から、ケーブル46が延び、撮影ユニット20、角速度センサユニット30、表示ユニット40および音入出力ユニット50と制御ユニット60とは、相互にデータを交換することができるようにこのケーブル46によって電気的に接続されている。   The display unit 40 may be configured as a separate body without being attached to the mounting unit 10, but displays the instruction of the instructor A within the field of view of the operator W, and the operator W refers to the instruction of the instructor A. In the present embodiment, the mounting unit 10 is attached to one transparent member 14R so that the work can be performed. For example, as shown in FIGS. 2 to 4, the display unit 40 includes an eyepiece optical system 41, an image generation unit 42, an illumination optical system 43, a light source unit 44, the image generation unit 42, and an illumination. The optical system 43 and the light source unit 44 are accommodated, and a display unit main body 45 that is a casing attached to the eyepiece optical system 41 is provided. As described above, the photographing unit 20 is externally attached to one end of the display unit main body 45, the angular velocity sensor unit 30 is built in, and the eyepiece optical system 41 extends from the bottom to the outside. Further, the cable 46 extends from the other end of the display unit main body 45, and the photographing unit 20, the angular velocity sensor unit 30, the display unit 40, the sound input / output unit 50, and the control unit 60 can exchange data with each other. Thus, the cable 46 is electrically connected.

光源部44は、所定波長の光を発光する装置であり、例えば、所定波長色を含む白色発光ダイオード(以下、「白色LED」と略記する)から成る点光源である。   The light source unit 44 is a device that emits light of a predetermined wavelength, and is, for example, a point light source composed of a white light emitting diode (hereinafter abbreviated as “white LED”) including a predetermined wavelength color.

照明光学系43は、光源部44の発光光が入射され、この入射された発光光から映像生成部42を照明する照明光を生成する装置であり、例えば、本実施形態では、方向により拡散度が異なり、前記入射された発光光を一方向に拡散する一方向拡散板43aと、一方向拡散板43aで拡散された光を集光する集光レンズ43bとを備えて構成される。より具体的には、例えば、本実施形態では、一方向拡散板43aは、光源部44から入射された発光光を図3の紙面に垂直な方向に約40度で拡散するとともに図3の紙面に平行な方向に約0.2度で拡散する。   The illumination optical system 43 is a device that receives the light emitted from the light source unit 44 and generates illumination light that illuminates the image generation unit 42 from the incident light emitted. For example, in this embodiment, the diffusivity depends on the direction. Is different, and includes a unidirectional diffuser plate 43a that diffuses the incident emitted light in one direction, and a condenser lens 43b that condenses the light diffused by the unidirectional diffuser plate 43a. More specifically, for example, in the present embodiment, the unidirectional diffusion plate 43a diffuses the emitted light incident from the light source unit 44 at about 40 degrees in a direction perpendicular to the paper surface of FIG. 3 and the paper surface of FIG. It diffuses at about 0.2 degree in the direction parallel to the.

映像生成部42は、照明光学系43の照明光が入射され、各画素において、この照明光をRGBごとにVRAM64の映像信号に応じて強度変調することによって映像を生成する装置であり、例えば、透過型LCD装置(透過型液晶表示装置)を備えて構成される。   The image generation unit 42 is an apparatus that generates the image by illuminating the illumination light of the illumination optical system 43 and modulating the intensity of the illumination light for each RGB in accordance with the image signal of the VRAM 64 in each pixel. A transmissive LCD device (transmissive liquid crystal display device) is provided.

接眼光学系41は、映像生成部42で生成された映像を装着者(作業者W)の眼に導くための装置であり、例えば、光学プリズム41aと、反射部41bとを備えて構成される。   The eyepiece optical system 41 is a device for guiding the image generated by the image generation unit 42 to the eyes of the wearer (worker W), and includes, for example, an optical prism 41a and a reflection unit 41b. .

光学プリズム41aは、例えばガラスや透明樹脂等の可視光に対して透明な材料より成る部材であって、互いに対向する一対の主面が略平行となるように形成された平行平板である。光学プリズム41aの上端部(上面部)は、上面が映像生成部42で生成された映像光の入射面であり、映像光の大部分を内部に採光することができるように、肉厚部411が形成されている。この肉厚部411は、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るくさび形状に形成される。そして、光学プリズム41aの下端部(底面部)は、斜めにカットされた傾斜部412が形成されており、この傾斜部412に反射部41bが設けられている。光学プリズム41aは、その上端部から入射された映像光をその内部で複数回の反射を行わせ、前記映像光を反射部41bへ導光する。より具体的には、光学プリズム41aは、その上端部から入射された映像光を前記一対の主面で交互に全反射を繰り返し、前記映像光を反射部41bへ導光する。   The optical prism 41a is a member made of a material transparent to visible light such as glass or transparent resin, for example, and is a parallel flat plate formed such that a pair of main surfaces facing each other are substantially parallel. The upper end portion (upper surface portion) of the optical prism 41a is the incident surface of the image light generated by the image generation unit 42 on the upper surface, and the thick portion 411 so that most of the image light can be collected inside. Is formed. The thick portion 411 is formed in a wedge shape with the front side (opposite to the eyepiece surface) protruding so as to become thicker upward. The lower end portion (bottom surface portion) of the optical prism 41a is formed with an inclined portion 412 that is cut obliquely, and the inclined portion 412 is provided with a reflecting portion 41b. The optical prism 41a causes the image light incident from the upper end portion thereof to be reflected a plurality of times therein, and guides the image light to the reflection portion 41b. More specifically, the optical prism 41a repeats total reflection of the image light incident from the upper end portion thereof alternately on the pair of main surfaces, and guides the image light to the reflection portion 41b.

反射部41bは、光学プリズム41aによって導光された映像光を、光学プリズム41aの傾斜部412と協働して後面側(接眼面側)へ反射する光学素子であり、例えば、ハーフミラー、多層膜およびホログラム光学素子等である。本実施形態では、反射部41bは、ホログラムを生成するホログラム光学素子(HOE)であり、例えば、波長選択性および角度選択性がともに比較的高いことから、体積位相型の反射型ホログラム光学素子である。体積位相型のホログラム光学素子は、光学的に軸非対称ないわゆる自由曲面で構成されて正の光学的パワーを有する。この反射型ホログラム光学素子は、所定波長の映像光を回折するように構成されており、前記光源部44は、この反射型ホログラム光学素子の回折波長に応じた所定波長の光を発光するように構成される。より具体的には、本実施形態では、反射型ホログラム光学素子は、RGB(赤緑青)に対応した各波長465nm±10nm、520nm±10nmおよび635nm±10nmの映像光を回折するように製作され、これに応じて、光源部44は、中心波長465nm、520nmおよび635nmのRGB一体型の白色LEDを備えて構成される。この反射型ホログラム光学素子の感光材料として、例えば、フォトポリマ、銀塩材料、重クロム酸ゼラチン等を挙げることができ、特に、ドライプロセスで製造することができることから、フォトポリマが好ましい。   The reflection unit 41b is an optical element that reflects the image light guided by the optical prism 41a to the rear surface side (eyepiece surface side) in cooperation with the inclined portion 412 of the optical prism 41a. Films, hologram optical elements, and the like. In the present embodiment, the reflection section 41b is a hologram optical element (HOE) that generates a hologram. For example, since both wavelength selectivity and angle selectivity are relatively high, the volume phase type reflection hologram optical element is used. is there. A volume phase type hologram optical element is constituted by a so-called free-form surface that is optically axisymmetric and has a positive optical power. The reflection type hologram optical element is configured to diffract image light having a predetermined wavelength, and the light source unit 44 emits light having a predetermined wavelength corresponding to the diffraction wavelength of the reflection type hologram optical element. Composed. More specifically, in the present embodiment, the reflection type hologram optical element is manufactured so as to diffract image lights having wavelengths of 465 nm ± 10 nm, 520 nm ± 10 nm, and 635 nm ± 10 nm corresponding to RGB (red, green, and blue), In response to this, the light source unit 44 includes an RGB integrated white LED having center wavelengths of 465 nm, 520 nm, and 635 nm. Examples of the photosensitive material for the reflection type hologram optical element include a photopolymer, a silver salt material, gelatin dichromate, and the like. In particular, a photopolymer is preferable because it can be manufactured by a dry process.

そして、前記透明部材14Rの切り欠き部14Rsは、光学プリズム41aが隙間無く嵌め込まれるように、光学プリズム41aの形状に対応した形状とされており、透明部材14Rの切り欠き部14Rsに接眼光学系41が嵌め込まれた場合に、透明部材14Rと接眼光学系41とは1枚の板状に一体化され、傾斜部412に設けられた反射部41bは、光学プリズム41aと透明部材14Rとに挟まれて埋設する。このように透明部材14Rと光学プリズム41aとは、反射部41bを2つの透明材料に埋設した接合光学プリズムを構成している。このため、反射部41bが外気に触れることが無く、反射部41bがホログラム光学素子である場合に、ホログラムを安定にその性能を保つことが可能となる。   The cutout portion 14Rs of the transparent member 14R has a shape corresponding to the shape of the optical prism 41a so that the optical prism 41a can be fitted without any gap, and the cutout portion 14Rs of the transparent member 14R has an eyepiece optical system. When 41 is fitted, the transparent member 14R and the eyepiece optical system 41 are integrated into a single plate, and the reflecting portion 41b provided on the inclined portion 412 is sandwiched between the optical prism 41a and the transparent member 14R. Buried. Thus, the transparent member 14R and the optical prism 41a constitute a cemented optical prism in which the reflecting portion 41b is embedded in two transparent materials. For this reason, when the reflection part 41b does not touch external air and the reflection part 41b is a hologram optical element, it becomes possible to maintain the performance of a hologram stably.

光学プリズム41aによって導光された映像光は、反射部41bで反射し、より具体的には、本実施形態では、反射型ホログラム光学素子によって回折され、虚像として光学瞳Eに導かれる。装着者(作業者W)は、この光学瞳Eの映像光をその瞳に入射することで、映像を見ることができる。このように表示ユニット40では、VRAM64の映像信号による映像が映像生成部42の透過型LCD装置に表示され、この映像生成部42の透過型LCD装置によって得られた映像が、接眼光学系41によって装着者(作業者W)の眼球に直接投影され、あたかも該映像が空中に拡大投影されているかのような虚像の観察が可能になっている。   The image light guided by the optical prism 41a is reflected by the reflecting portion 41b. More specifically, in this embodiment, the image light is diffracted by the reflective hologram optical element and guided to the optical pupil E as a virtual image. The wearer (worker W) can view the image by causing the image light of the optical pupil E to enter the pupil. As described above, in the display unit 40, the video based on the video signal of the VRAM 64 is displayed on the transmissive LCD device of the video generation unit 42, and the video obtained by the transmissive LCD device of the video generation unit 42 is displayed by the eyepiece optical system 41. A virtual image can be observed as if it was projected directly onto the eyeball of the wearer (worker W) and as if the image was magnified and projected in the air.

また、透明部材14Rは、光学プリズム41aの傾斜部412での屈折をキャンセル(相殺)するので、装着者(作業者W)は、外界光を略歪むことなく見ることができる。また、体積位相型の反射型ホログラム光学素子は、上述のように、特定入射角の特定波長の光のみを回折するので、外界光にはほとんど影響せず、外界光は、透明部材14R、反射部41bの反射型ホログラム光学素子および光学プリズム41aを透過し、装着者(作業者W)は、略通常通り、外界を見ることができる。このように体積位相型の反射型ホログラム光学素子は、特定波長域の反射光とそれ以外の波長域の透過光とを合成するコンバイナ光学素子として機能している。このような構成によって表示ユニット40における外界光の可視光透過率を約85%以上に確保することが可能となり、外界光の透過率が高く、装着者(作業者W)がシースルーで外界を良好に見ることができ、装着者(作業者W)の作業性を向上することが可能となる。そして、本実施形態では、接眼光学系41は、右眼に対応する透明部材14Rに配設され、表示ユニット40に表示される映像を右眼で観察することができると同時に外界を右眼でも観察することができる(もちろん、左眼は、外界を観察することができる)。   Further, since the transparent member 14R cancels (cancels) refraction at the inclined portion 412 of the optical prism 41a, the wearer (worker W) can see the external light without being substantially distorted. Further, as described above, the volume phase type reflection type hologram optical element diffracts only light having a specific wavelength at a specific incident angle, and therefore hardly affects external light. The wearer (worker W) can see the outside world almost as usual through the reflection type hologram optical element and the optical prism 41a of the portion 41b. As described above, the volume phase type reflection hologram optical element functions as a combiner optical element that synthesizes reflected light in a specific wavelength region and transmitted light in other wavelength regions. With such a configuration, the visible light transmittance of the external light in the display unit 40 can be secured to about 85% or more, the external light transmittance is high, and the wearer (worker W) is see-through and the external environment is good. Thus, the workability of the wearer (worker W) can be improved. In the present embodiment, the eyepiece optical system 41 is disposed on the transparent member 14R corresponding to the right eye so that an image displayed on the display unit 40 can be observed with the right eye, and at the same time, the outside world can be viewed with the right eye. Can be observed (of course, the left eye can observe the outside world).

また、接眼光学系41は、本実施形態では、映像光を光学プリズム41aの内部で反射するとともに反射部41bの体積位相型の反射型ホログラム光学素子によって光学瞳Eに導くように構成されているので、透明部材14Rの厚みは、通常のメガネレンズと略同程度の厚み(例えば3mm程度)とすることができ、小型で軽量となる。そして、前記反射は、本実施形態では、全反射であるので、装着者(作業者W)は、透明部材14Rの一対の両主面を通して外界光の透過率を略落とすことなく、外界を見ることができる。   In the present embodiment, the eyepiece optical system 41 is configured to reflect the image light inside the optical prism 41a and guide it to the optical pupil E by the volume phase type reflection hologram optical element of the reflection portion 41b. Therefore, the thickness of the transparent member 14R can be approximately the same thickness as a normal eyeglass lens (for example, about 3 mm), and is small and lightweight. Since the reflection is total reflection in the present embodiment, the wearer (operator W) views the outside world without substantially reducing the transmittance of outside light through the pair of main surfaces of the transparent member 14R. be able to.

音入出力ユニット50は、音を入出力するための回路であり、音を出力する左右一対のイヤホン51L、51Rと、音を集音するマイクロホン52とを備えて構成される。マイクロホン52は、装着ユニット10を作業者Wが装着した場合に、作業者Wの音声を集音すべく、装着ユニット10のテンプル11Lから延びる略L字状のアーム53の先端に取り付けられている。この音入力ユニット50のマイクロホン52によって作業者Wの音声が集音され、この音声の音声データが撮影装置1からネットワークNTを介して遠隔支援装置5へ送信され、遠隔支援装置5のメインサーバPC6におけるスピーカ163bからこの音声データの音声が出力される。一方、この遠隔支援装置5のメインサーバPC6におけるマイクロホン162cによって指示者Aの音声が集音され、この音声の音声データが遠隔支援装置5からネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声データの音声が出力される。あるいは、コンテンツサーバPC8から音声の支援コンテンツがネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声の支援コンテンツが出力される。なお、撮影装置1のイヤホン51L、51Rは、一方のみであっても良い。これによって本実施形態の遠隔作業支援システムSは、音声指示を作業者Wに与えることができ、また、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができ、作業者Wと指示者Aとは、音声によってコミュニケーションを図ることができる。特に、音声によるコミュニケーションを図ると、指示者Aの音声指示により、作業者W(装着者)は、頷き動作を行い易いが、このような場合に本実施形態の遠隔作業支援システムSでは後述のように映像の切り換えを制限して映像での観察に制限を施すので、このような場合に本実施形態の遠隔作業支援システムSは、効果的である。   The sound input / output unit 50 is a circuit for inputting and outputting sound, and includes a pair of left and right earphones 51L and 51R that output sound, and a microphone 52 that collects sound. The microphone 52 is attached to the tip of a substantially L-shaped arm 53 extending from the temple 11L of the mounting unit 10 to collect the voice of the worker W when the mounting unit 10 is mounted by the worker W. . The voice of the operator W is collected by the microphone 52 of the sound input unit 50, and the voice data of the voice is transmitted from the photographing apparatus 1 to the remote support apparatus 5 via the network NT. The main server PC 6 of the remote support apparatus 5 The sound of the sound data is output from the speaker 163b. On the other hand, the voice of the instructor A is collected by the microphone 162c in the main server PC6 of the remote support device 5, and the voice data of this voice is transmitted from the remote support device 5 to the photographing device 1 via the network NT. The sound of this sound data is output from one earphone 51L, 51R. Alternatively, audio support content is transmitted from the content server PC8 to the image capturing apparatus 1 via the network NT, and the audio support content is output from the earphones 51L and 51R of the image capture apparatus 1. Note that the earphones 51L and 51R of the photographing apparatus 1 may be only one. Thus, the remote work support system S of the present embodiment can give a voice instruction to the worker W, and for example, sound such as voice can be exchanged between the photographing apparatus 1 and the remote support apparatus 5. The worker W and the instructor A can communicate by voice. In particular, when communication is performed by voice, the operator W (wearer) can easily perform a whispering operation by the voice instruction of the instructor A. In such a case, the remote work support system S of the present embodiment will be described later. Thus, since the switching of the video is limited to limit the observation in the video, the remote work support system S of the present embodiment is effective in such a case.

制御ユニット60は、撮影装置1の全体制御を司る回路である。制御ユニット60は、撮影ユニット20、角速度センサユニット30および表示ユニット40のように装着ユニット10に取り付けられても良いが、撮影装置1における作業者Wの頭部に装着される部分の重量を軽減するために、本実施形態では、装着ユニット10に取り付けられることなく装着ユニット10とは別体に設けられており、上述したように、ケーブル46によって撮影ユニット20、角速度センサユニット30、表示ユニット40および音入出力ユニット50と電気的に接続されている。制御ユニット60は、例えば、図1、図2および図4に示すように、画像メモリ61と、制御部62と、VRAM64と、音入力処理部65と、音出力処理部66と、電源スイッチ67と、ネットワークIF部68とを備えて構成され、これら画像メモリ61、制御部62、VRAM64、音入力処理部65、音出力処理部66、電源スイッチ67およびネットワークIF部68は、略直方体形状の筐体69に収容されている。なお、電源スイッチ67は、その操作部分が筐体69の外部に臨むように筐体69内に配設され、ネットワークIF部68は、そのコネクタ部分が筐体69の外部に臨むように筐体69内に配設される。   The control unit 60 is a circuit that governs overall control of the photographing apparatus 1. The control unit 60 may be attached to the mounting unit 10 such as the photographing unit 20, the angular velocity sensor unit 30, and the display unit 40, but reduces the weight of the portion attached to the head of the operator W in the photographing apparatus 1. Therefore, in the present embodiment, the mounting unit 10 is provided separately from the mounting unit 10 without being attached to the mounting unit 10, and as described above, the photographing unit 20, the angular velocity sensor unit 30, and the display unit 40 are provided by the cable 46. The sound input / output unit 50 is electrically connected. For example, as shown in FIGS. 1, 2, and 4, the control unit 60 includes an image memory 61, a control unit 62, a VRAM 64, a sound input processing unit 65, a sound output processing unit 66, and a power switch 67. And the network IF unit 68. The image memory 61, the control unit 62, the VRAM 64, the sound input processing unit 65, the sound output processing unit 66, the power switch 67, and the network IF unit 68 have a substantially rectangular parallelepiped shape. Housed in a housing 69. The power switch 67 is disposed in the housing 69 so that its operation part faces the outside of the housing 69, and the network IF unit 68 has a housing so that its connector part faces the outside of the housing 69. 69.

画像メモリ61は、例えば、RAM(Random Access Memory)等の揮発性の記憶素子およびその周辺回路を備えて構成され、上述したように、撮影ユニット20における映像制御部24の作業領域として用いられる。   The image memory 61 includes, for example, a volatile storage element such as a RAM (Random Access Memory) and its peripheral circuits, and is used as a work area of the video control unit 24 in the photographing unit 20 as described above.

VRAM64は、RAMおよびその周辺回路を備えて構成される、いわゆるビデオラム(Video RAM)であり、表示ユニット40における映像生成部42の画素数に対応した映像信号の記憶容量を少なくとも有し、映像生成部42で再生表示される映像を構成する映像信号をバッファするためのバッファメモリである。   The VRAM 64 is a so-called video RAM that includes a RAM and its peripheral circuits, and has at least a video signal storage capacity corresponding to the number of pixels of the video generation unit 42 in the display unit 40. This is a buffer memory for buffering a video signal that constitutes a video to be reproduced and displayed by the generation unit.

音入力処理部65は、音入出力ユニット50におけるマイクロホン52から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って制御部62へ出力する回路である。   The sound input processing unit 65 is a circuit that performs predetermined signal processing such as amplification and noise cut on the sound signal input from the microphone 52 in the sound input / output unit 50 and outputs the signal to the control unit 62.

音出力処理部66は、制御部62から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って音入出力ユニット50におけるイヤホン51L、51Rへ出力する回路である。   The sound output processing unit 66 is a circuit that performs predetermined signal processing such as amplification and noise cut on the sound signal input from the control unit 62 and outputs the signal to the earphones 51L and 51R in the sound input / output unit 50. is there.

電源スイッチ67は、撮影装置1を稼動するために、撮影装置1を起動するスイッチ回路である。電源スイッチ67の投入(スイッチオン)により、例えば電池等の電源から、撮影装置1における電力を必要とする各部へ電力が供給される。   The power switch 67 is a switch circuit that activates the photographing apparatus 1 in order to operate the photographing apparatus 1. When the power switch 67 is turned on (switched on), for example, power is supplied from a power source such as a battery to each unit that requires power in the photographing apparatus 1.

ネットワークIF部68は、ネットワークNTを介して撮影装置1と遠隔支援装置5との間で通信を行うための通信インタフェース回路であり、制御部62から入力されてきたデータをネットワークNTの通信プロトコルに対応した通信信号に収容し、この収容した通信信号をネットワークNTへ送信するとともに、ネットワークNTから撮影装置1宛ての通信信号を受信し、この受信した通信信号に収容されているデータを取り出して制御部62で処理可能な形式に変換し、この変換したデータを制御部62へ出力するものである。   The network IF unit 68 is a communication interface circuit for performing communication between the imaging device 1 and the remote support device 5 via the network NT, and uses the data input from the control unit 62 as a communication protocol of the network NT. It accommodates in the corresponding communication signal, transmits the accommodated communication signal to the network NT, receives the communication signal addressed to the photographing apparatus 1 from the network NT, extracts the data accommodated in the received communication signal, and controls it. The data is converted into a format that can be processed by the unit 62, and the converted data is output to the control unit 62.

制御部62は、撮影装置1の各部を当該機能に応じて制御する回路であり、例えば、撮影装置1の各部を当該機能に応じて制御するための制御プログラム等の各種の所定のプログラムや前記所定のプログラムの実行に必要なデータ等の各種の所定のデータ等を記憶する、不揮発性の記憶素子であるROM(Read Only Memory)、前記所定のプログラムを読み出して実行することによって所定の演算処理や制御処理を行うCPU(Central Processing Unit)、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる前記CPUのワーキングメモリとなるRAM、および、これらの周辺回路を備えたマイクロコンピュータ等によって構成される。なお、この制御部62は、例えば、EEPROM(Electrically Erasable Programmable Read Only Memory)等の書き換え可能な不揮発性の記憶素子を備えても良い。制御部62は、機能的に、映像表示制御部63を備えている。   The control unit 62 is a circuit that controls each unit of the imaging device 1 according to the function. For example, the control unit 62 may be various predetermined programs such as a control program for controlling the units of the imaging device 1 according to the function. ROM (Read Only Memory) that is a nonvolatile storage element that stores various kinds of predetermined data such as data necessary for execution of the predetermined program, and predetermined arithmetic processing by reading and executing the predetermined program And a CPU (Central Processing Unit) that performs control processing, a RAM that serves as a working memory of the CPU that stores data generated during the execution of the predetermined program, and a microcomputer that includes these peripheral circuits Is done. The control unit 62 may include a rewritable nonvolatile memory element such as an EEPROM (Electrically Erasable Programmable Read Only Memory). The control unit 62 functionally includes a video display control unit 63.

映像表示制御部63は、撮影ユニット20によって撮影された被写体の映像を表示する場合に、本実施形態では、角速度センサユニット30で検出された撮影ユニット20の撮影方向の変化が所定の第1時間内において所定の方向に沿う往復移動の場合に、撮影ユニット20によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限するものであり、例えば、機能的に、撮影方向判定部631と、観察制限制御部632とを備えて構成される。映像表示制御部63は、撮影ユニット20によって撮影された被写体の映像を表示ユニット40に表示する場合には、表示ユニット40に表示すべき映像を制御し、また、撮影ユニット20によって撮影された被写体の映像を遠隔支援装置5に出力する場合には、遠隔支援装置5宛てに送信する通信信号に収容される映像を制御するものである。   In the present embodiment, when the video display control unit 63 displays the video of the subject photographed by the photographing unit 20, the change in the photographing direction of the photographing unit 20 detected by the angular velocity sensor unit 30 is a predetermined first time. In the case of reciprocal movement along a predetermined direction, the switching of the subject image when the subject image captured by the imaging unit 20 is displayed is limited. A unit 631 and an observation restriction control unit 632 are provided. The video display control unit 63 controls the video to be displayed on the display unit 40 when the video of the subject shot by the shooting unit 20 is displayed on the display unit 40, and the subject shot by the shooting unit 20. Is output to the remote support device 5, the video contained in the communication signal transmitted to the remote support device 5 is controlled.

撮影方向判定部631は、角速度センサユニット30で検出された作業者W(装着者)の頭部の角速度に基づいて撮影ユニット20の撮影方向を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に所定の方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものである。   The photographing direction determination unit 631 detects the photographing direction of the photographing unit 20 based on the angular velocity of the head of the worker W (wearer) detected by the angular velocity sensor unit 30, and the photographing direction of the detected photographing unit 20 is detected. Is determined to reciprocate along a predetermined direction within a predetermined first time, and the determination result is notified to the observation restriction control unit 632.

観察制限制御部632は、撮影方向判定部631から通知された判定結果に応じて撮影ユニット20で生成される映像の切り換えを制限するものである。なお、制御部62は、この切り換えを制限した被写体の映像をネットワークIF部68からネットワークNTを介して遠隔支援装置5へ送信する。   The observation restriction control unit 632 restricts switching of the video generated by the photographing unit 20 according to the determination result notified from the photographing direction determining unit 631. Note that the control unit 62 transmits the image of the subject whose switching is restricted from the network IF unit 68 to the remote support device 5 via the network NT.

より具体的には、例えば、撮影方向判定部631は、角速度センサユニット30で検出された作業者Wの頭部の角速度に基づいて検出された撮影方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであり、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、角速度センサユニット30で検出された作業者Wの頭部の角速度に基づいて検出された撮影方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に、撮影ユニット20で生成される映像の切り換えを制限するものである。例えば、本実施形態では、観察制限制御部632は、被写体の映像におけるフレームを予め設定された所定のフレームに制限することで、撮影ユニット20で生成される映像の切り換えを制限する。前記判定における、撮影方向が前記所定の方向に沿って略180度異なる方向へ変化する回数は、頭部が高速に移動したり揺れたりした場合に頭部に装着されるカメラによって撮影された映像を観察者が見た場合に観察者が気分を悪くするか否かの観点から例えば統計等によって決定される回数であり、例えば、本実施形態では、2回である。このように撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に所定の方向に沿った往復移動があったと判定する簡易な判定条件としているので、角速度センサユニット30や映像表示制御部63等のこのための装置を比較的簡単な装置や処理で実現することが可能である。   More specifically, for example, the imaging direction determination unit 631 determines that the imaging direction detected based on the angular velocity of the head of the worker W detected by the angular velocity sensor unit 30 is within the predetermined first time. It is determined whether or not it has changed two or more times in a direction different by about 180 degrees along the direction of, and notifies the observation limit control unit 632 of the determination result. When displaying the image of the photographed subject, the photographing direction detected based on the angular velocity of the head of the operator W detected by the angular velocity sensor unit 30 based on the determination result is the predetermined first time. In this case, the switching of the video generated by the photographing unit 20 is restricted when it changes twice or more in the direction different by about 180 degrees along the predetermined direction. For example, in the present embodiment, the observation restriction control unit 632 restricts switching of images generated by the photographing unit 20 by restricting frames in the subject image to predetermined frames set in advance. In the determination, the number of times the shooting direction changes in a direction different by about 180 degrees along the predetermined direction is the number of images shot by a camera attached to the head when the head moves or shakes at high speed. Is the number of times determined by, for example, statistics or the like from the viewpoint of whether or not the observer feels bad, for example, twice in this embodiment. As described above, the angular velocity sensor unit is used as a simple determination condition for determining that there has been a reciprocating movement along a predetermined direction when the photographing direction changes two or more times in a direction different by about 180 degrees along the predetermined direction. 30 and the image display control unit 63 can be realized by relatively simple devices and processing.

前記所定の第1時間(判定時間A)は、予め設定され、例えば、頭部が高速に移動したり揺れたりした場合に頭部に装着されるカメラによって撮影された映像を観察者が見た場合に観察者が気分を悪くするか否かの観点から例えば統計等によって決定される時間長である。一例では、頭部が約0.3秒〜3秒程度の間に往復移動した場合に、その頭部に装着されたカメラによって撮影された映像を見た観察者は、映像酔い等の気分が悪くなりやすい。約0.3秒を下回ると、前記観察者は、いわゆる手ぶれのような単なるブレと意識され、一方、約3秒を上回ると、前記観察者は、往復移動のサイクルが充分に長いので、映像酔い等の気分が悪くなりにくい。このため、前記所定の第1時間は、例えば、約0.3秒〜3秒のうちのいずれかの時間長に設定される。このような映像酔い等の気分の悪くなりやすい時間帯のうちのいずれかの時間に第1時間を設定しているので、このような事態を効果的に抑制または防止することが可能となる。   The predetermined first time (determination time A) is set in advance. For example, when the head moves or shakes at high speed, the viewer views an image taken by a camera attached to the head. In this case, the time length is determined by, for example, statistics from the viewpoint of whether or not the observer feels bad. In one example, when the head moves back and forth between about 0.3 seconds and about 3 seconds, an observer who sees an image taken by a camera attached to the head feels sick like video sickness. It tends to get worse. When the time is less than about 0.3 seconds, the observer is perceived as a mere blur such as a so-called camera shake. On the other hand, when the time is longer than about 3 seconds, the observer has a sufficiently long reciprocation cycle. Difficult to get sick like sickness. For this reason, the predetermined first time is set to a time length of, for example, about 0.3 seconds to 3 seconds. Since the first time is set at any time in the time zone in which such mood sickness such as video sickness tends to get worse, it is possible to effectively suppress or prevent such a situation.

観察制限制御部632による映像の切り換えの制限は、例えば、所定の第2時間の間、被写体の映像におけるフレームを更新しないことによって行われてよい。より具体的には、例えば、本実施形態では、観察制限制御部632は、前記第2時間の間、VRAM64の各データを更新せず、前記第2時間の開始時刻における被写体の映像におけるフレームの各データ値をそのまま維持するように、VRAM64を制御する。したがって、前記第2時間の開始時刻における被写体の映像におけるフレームがそのまま維持され、静止画のように表示ユニット40や遠隔支援装置5のディスプレイ163aに表示される。このように被写体の映像におけるフレームを更新しないので被写体の映像が、第2時間中、略静止画となり、被写体の映像におけるフレームを更新しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。   For example, the switching of the video by the observation restriction control unit 632 may be limited by not updating the frame in the video of the subject for a predetermined second time. More specifically, for example, in this embodiment, the observation restriction control unit 632 does not update each data of the VRAM 64 during the second time, and the frame of the subject image at the start time of the second time is not updated. The VRAM 64 is controlled so that each data value is maintained as it is. Therefore, the frame in the subject image at the start time of the second time is maintained as it is, and is displayed on the display unit 40 or the display 163a of the remote support device 5 like a still image. Since the frame of the subject video is not updated in this way, the subject video becomes a substantially still image during the second time, and the mood of video sickness or the like is deteriorated by a relatively simple method of not updating the frame of the subject video. This can be reduced or prevented.

また例えば、観察制限制御部632による映像の切り換えの制限は、所定の第2時間の間、被写体の映像を表示しないことによって行われてよい。より具体的には、例えば、本実施形態では、観察制限制御部632は、前記第2時間の間、VRAM64の各データを予め設定された所定レベルのデータ値に書き換えるように、VRAM64を制御する。すなわち、第2時間中、表示ユニット40や遠隔支援装置5のディスプレイ163aには、例えば黒や白等の単色表示で、被写体が何も表示されない。このように被写体の映像を表示せずに被写体の映像を消し、被写体の映像を表示しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。   Further, for example, the switching of the video by the observation limitation control unit 632 may be performed by not displaying the video of the subject for a predetermined second time. More specifically, for example, in the present embodiment, the observation restriction control unit 632 controls the VRAM 64 so that each data in the VRAM 64 is rewritten to a predetermined level of data value during the second time. . That is, during the second time, no object is displayed on the display unit 40 or the display 163a of the remote support device 5 in a single color display such as black or white, for example. In this way, it is possible to reduce or prevent the feeling of sickness such as video sickness by using a relatively simple method of erasing the subject image without displaying the subject image and not displaying the subject image.

また例えば、観察制限制御部632による映像の切り換えの制限は、被写体の映像の信号を遠隔支援装置5に送信しないことや、被写体の映像の信号を表示ユニット40に出力しないことや、被写体の映像の信号をVRAM64に記録しないこと等であっても良い。   Further, for example, the switching of the video by the observation restriction control unit 632 may be limited to not transmitting a subject video signal to the remote support device 5, not outputting a subject video signal to the display unit 40, or subject video. The above signal may not be recorded in the VRAM 64.

前記所定の第2時間(観察制限時間B)は、予め設定され、例えば、映像酔い等の気分の悪くなることがないように、前記所定の第1時間(判定時間A)を超えるように決定される時間長であり、前記継続時間は、例えば統計等によって決定される。例えば、前記所定の第2時間は、前記第1時間よりも長く、かつ、1秒〜5秒のうちのいずれかの時間長に設定される。このように、第2時間中、被写体の映像の切り換えを制限することで、映像酔い等の気分の悪くなることを低減または防止することができるとともに、前記被写体の映像の切り換えを制限する第2時間を設けるので、第2時間の経過後に、被写体の映像の切り換えの制限を解除し、元に復帰することができる。前記所定の第2時間が1秒を下回ると、映像酔い等の気分の悪くなることを低減または防止することが難しく、好ましくない。一方、前記所定の第2時間が5秒を上回ると、表示ユニット40に表示される映像や遠隔支援装置5に表示される映像の即時性が損なわれ、指示者Aに作業者Wの映像が略リアルタイムに提供されなくなり、適切な指示を与えることが難しくなるので、好ましくない。   The predetermined second time (observation limit time B) is set in advance and is determined to exceed the predetermined first time (determination time A) so as not to make the patient feel sick, for example, video sickness. The duration is determined by, for example, statistics. For example, the predetermined second time is longer than the first time and is set to any time length from 1 second to 5 seconds. As described above, by restricting the switching of the subject image during the second time, it is possible to reduce or prevent the feeling of sickness such as image sickness and to limit the switching of the subject image. Since the time is provided, it is possible to release the restriction on switching of the image of the subject and return to the original state after the second time has elapsed. If the predetermined second time is less than 1 second, it is difficult and undesirable to reduce or prevent the feeling of sickness such as video sickness. On the other hand, when the predetermined second time exceeds 5 seconds, the immediacy of the video displayed on the display unit 40 and the video displayed on the remote support device 5 is impaired, and the video of the operator W is displayed on the instructor A. Since it is not provided in substantially real time and it becomes difficult to give an appropriate instruction, it is not preferable.

また例えば、前記所定の方向は、鉛直方向であってよく、撮影方向判定部631は、鉛直方向角速度センサユニット31で検出された作業者W(装着者)の頭部における鉛直方向の角速度に基づいて撮影ユニット20の鉛直面内における撮影方向(鉛直方向での上方方向(+方向)または下方方向(−方向))を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであって、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合に、前記被写体の映像の切り換えを制限するものである。このように構成することによって、装着者の頭部における鉛直方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者の歩行の場合や、装着者が肯定を頭部の鉛直方向における往復運動によって示す場合に対処することができる。   Further, for example, the predetermined direction may be a vertical direction, and the imaging direction determination unit 631 is based on the vertical angular velocity in the head of the worker W (wearer) detected by the vertical angular velocity sensor unit 31. Then, a shooting direction (upward direction (+ direction) or downward direction (− direction) in the vertical direction) in the vertical plane of the shooting unit 20 is detected, and the detected shooting direction of the shooting unit 20 is a predetermined first time. Whether or not it has reciprocated along the vertical direction, and notifies the observation restriction control unit 632 of the determination result. The observation restriction control unit 632 In the case of displaying an image, the image of the subject when the shooting direction of the shooting unit 20 reciprocates along the vertical direction within a predetermined first time based on the determination result. It is intended to limit the switching. With this configuration, it is possible to cope with a feeling of sickness such as video sickness due to the vertical reciprocation of the wearer's head. In particular, it can be dealt with when the wearer walks or when the wearer shows affirmation by the reciprocating motion of the head in the vertical direction.

なお、鉛直方向角速度センサ部31は、本実施形態では、2軸圧電振動ジャイロセンサのうちの1軸を利用することで構成されたが、水平センサを備えて構成されてもよい。このように撮影方向の鉛直方向における往復移動を検出するためにセンサとして水平センサを用いることで、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出することができる。   In the present embodiment, the vertical angular velocity sensor unit 31 is configured by using one of the two-axis piezoelectric vibration gyro sensors, but may be configured by including a horizontal sensor. Thus, by using a horizontal sensor as a sensor to detect reciprocal movement in the vertical direction of the photographing direction, it is possible to detect reciprocating movement along the vertical direction in the photographing direction with a relatively simple structure at low cost. .

また例えば、前記所定の方向は、水平方向であってよく、撮影方向判定部631は、水平方向角速度センサユニット32で検出された作業者W(装着者)の頭部における水平方向の角速度に基づいて撮影ユニット20の水平面内における撮影方向(水平方向での右方向(+方向)または左方向(−方向))を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであって、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合に、前記被写体の映像の切り換えを制限するものである。このように構成することによって、装着者の頭部における水平方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者が否定を頭部の水平方向における往復運動によって示す場合に対処することができる。   Further, for example, the predetermined direction may be a horizontal direction, and the photographing direction determination unit 631 is based on the horizontal angular velocity at the head of the worker W (wearer) detected by the horizontal angular velocity sensor unit 32. Then, a shooting direction (right direction (+ direction) or left direction (− direction) in the horizontal direction) in the horizontal plane of the shooting unit 20 is detected, and the detected shooting direction of the shooting unit 20 is within a predetermined first time. The observation restriction control unit 632 notifies the observation restriction control unit 632 of the result of the reciprocation along the horizontal direction, and the observation restriction control unit 632 captures the image of the subject photographed by the photographing unit 20. When the shooting direction of the shooting unit 20 reciprocates along the horizontal direction within a predetermined first time based on the determination result, the image of the subject is cut off. It is intended to limit the recombination. With this configuration, it is possible to cope with a feeling of sickness such as video sickness due to the horizontal reciprocation of the wearer's head. In particular, it is possible to deal with a case where the wearer shows a negative result by a reciprocating motion of the head in the horizontal direction.

本実施形態では、撮影装置1の装着ユニット10、撮影ユニット20、角速度センサユニット30および制御ユニット60における映像表示制御部63が、それぞれ、請求項の装着部、撮影部、撮影方向検出部および映像表示制御部の一例に相当し、そして、遠隔支援装置5のディスプレイ163aが表示部および第2表示部の一例に相当する。そして、撮影装置1の表示ユニット40が撮影ユニット20の電子ファインダとして機能していることから、本実施形態では、撮影装置1の表示ユニット40も表示部の一例に相当している。   In the present embodiment, the image display control unit 63 in the mounting unit 10, the image capturing unit 20, the angular velocity sensor unit 30 and the control unit 60 of the image capturing apparatus 1 are respectively the mounting unit, the image capturing unit, the image capturing direction detecting unit, and the image. It corresponds to an example of a display control unit, and the display 163a of the remote support device 5 corresponds to an example of a display unit and a second display unit. And since the display unit 40 of the imaging device 1 functions as an electronic viewfinder of the imaging unit 20, in this embodiment, the display unit 40 of the imaging device 1 also corresponds to an example of a display unit.

次に、本実施形態の動作について説明する。図5は、本実施形態の遠隔作業支援システムにおける撮影装置の動作を示すフローチャートである。図6は、撮影方向の往復移動が第1態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。図7は、撮影方向の往復移動が第2態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。図8は、撮影方向の往復移動が第3態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。これら図6(A)、図7(A)および図8(A)は、撮影方向を示し、図6(B)、図7(B)および図8(B)は、遠隔支援装置5のディスプレイ163aや表示ユニット40に表示される表示映像の態様を示す。また、図6(A)、図7(A)および図8(A)における各矢印は、各サンプリング時刻における撮影ユニット20の各撮影方向の変化方向(移動方向)を示し、(+)は、前記所定の方向に沿った一方方向を示し、(−)は、(+)方向の180度異なる他方方向を示す。   Next, the operation of this embodiment will be described. FIG. 5 is a flowchart showing the operation of the photographing apparatus in the remote operation support system of this embodiment. FIG. 6 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the first mode. FIG. 7 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the second mode. FIG. 8 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the third aspect. 6A, 7A, and 8A show the photographing direction, and FIGS. 6B, 7B, and 8B show the display of the remote support device 5. FIG. The mode of the display image displayed on 163a and the display unit 40 is shown. In addition, each arrow in FIGS. 6A, 7A, and 8A indicates a change direction (movement direction) of each shooting direction of the shooting unit 20 at each sampling time, and (+) indicates One direction along the predetermined direction is indicated, and (−) indicates the other direction that is 180 degrees different from the (+) direction.

本実施形態の遠隔作業支援システムSにおける撮影装置1は、被写体の映像の切り換えを制限する制御に関し、図5に示すように動作している。すなわち、図5において、ステップS11では、撮影ユニット20の撮影方向の変化方向(移動方向)を検出すべく、角速度センサユニット30によって作業者W(装着者)の頭部の角速度が検出され、この検出結果が制御ユニット60へ出力され、制御ユニット60で記憶される。   The photographing apparatus 1 in the remote operation support system S of the present embodiment operates as shown in FIG. 5 with respect to the control for limiting the switching of the subject image. That is, in FIG. 5, in step S11, the angular velocity of the head of the worker W (wearer) is detected by the angular velocity sensor unit 30 in order to detect the change direction (moving direction) of the photographing direction of the photographing unit 20, and this The detection result is output to the control unit 60 and stored in the control unit 60.

続いて、制御ユニット60において、この検出結果が角速度センサユニット30から入力されてくると、上述のように、制御部62の映像表示制御部63によって、この検出結果が記憶され、この検出結果が所定の条件を満たすか否かが判定される。例えば、上述したように、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化したか否かが、判定される。より具体的には、本実施形態では、前記検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が前記所定の第1時間内に鉛直方向や水平方向に沿って略180度異なる方向へ2回変化したか否かが、判定される。   Subsequently, when the detection result is input from the angular velocity sensor unit 30 in the control unit 60, the detection result is stored by the video display control unit 63 of the control unit 62 as described above. It is determined whether or not a predetermined condition is satisfied. For example, as described above, the change direction of the photographing direction of the photographing unit 20 detected based on the detection result is twice or more twice in the direction different by about 180 degrees along the predetermined direction within the predetermined first time. It is determined whether it has changed. More specifically, in the present embodiment, the change direction of the shooting direction of the shooting unit 20 detected based on the detection result differs by approximately 180 degrees along the vertical direction or the horizontal direction within the predetermined first time. It is determined whether the direction has changed twice.

この判定において、本実施形態では、図5に示すように、まず、ステップS12では、映像表示制御部63の撮影方向判定部631によって、この検出結果が記憶され、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化したか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化した場合(Y)には、この今回の撮影方向の反転を判定した時刻が記憶され、ステップS13の処理が実行され、一方、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化していない場合(N)には、ステップS14の処理が実行される。   In this determination, in the present embodiment, as shown in FIG. 5, first, in step S12, the detection result is stored by the shooting direction determination unit 631 of the video display control unit 63 and detected based on the detection result. It is determined whether or not the change direction of the shooting direction of the shooting unit 20 has changed to a direction that differs by approximately 180 degrees along the vertical direction or the horizontal direction. As a result of this determination, when the change direction of the shooting direction of the shooting unit 20 changes in a direction different by about 180 degrees along the vertical direction or the horizontal direction (Y), the time at which the reversal of the current shooting direction is determined. When the process of step S13 is performed and the change direction of the shooting direction of the shooting unit 20 is not changed to a direction different by about 180 degrees along the vertical direction or the horizontal direction (N), step S14 is performed. The process is executed.

ここで、この撮影ユニット20の撮影方向の変化方向における略180度異なる方向への変化は、例えば、前回の検出結果に基づいて検出された前回の撮影ユニット20の撮影方向と今回の検出結果に基づいて検出された今回の撮影ユニット20の撮影方向とを比較することによって判断され、これらが略180度異なる方向である場合には、撮影方向判定部631によって、前回の検出と今回の検出との間に、撮影ユニット20の撮影方向の変化方向が略180度異なる方向へ1回変化したと判断され、一方、これらが略180度異なる方向ではない場合には、撮影方向判定部631によって、前回の検出と今回の検出との間に、撮影ユニット20の撮影方向の変化方向が略180度異なる方向への変化がないと判断される。   Here, the change in the direction of change of the shooting direction of the shooting unit 20 in a direction different by approximately 180 degrees is, for example, the shooting direction of the previous shooting unit 20 detected based on the previous detection result and the current detection result. If the directions are determined to be different from each other by approximately 180 degrees, the shooting direction determination unit 631 determines that the previous detection and the current detection are performed. In the meantime, it is determined that the change direction of the shooting direction of the shooting unit 20 has changed once in a direction different by about 180 degrees. On the other hand, when these directions are not different from each other by about 180 degrees, the shooting direction determination unit 631 It is determined that there is no change in the direction in which the shooting direction of the shooting unit 20 changes by approximately 180 degrees between the previous detection and the current detection.

ステップS14では、映像表示制御部63の観察制限制御部632によって、被写体の映像における切り換え制限が行われることなく、例えば15fps(毎秒15フレーム)や24fps(毎秒24フレーム)や30fps(毎秒30フレーム)等のデフォルトのフレームレートで被写体の映像を表示するべく、被写体の映像の信号(表示用映像信号)が撮影装置1から遠隔支援装置5へ送信される。遠隔支援装置5では、この表示用映像信号が受信されると、表示用映像信号による映像がディスプレイ163aに表示される。これによって指示者Aは、作業者W(装着者)の前方視野内の被写体を参照することができ、例えば、作業対象物を観察することができる。また、本実施形態では、この被写体の映像は、撮影装置1の表示ユニット40にも表示される。これによって作業者W(装着者)は、撮影ユニット20によって撮影されている領域を見ることができる。   In step S14, the observation restriction control unit 632 of the video display control unit 63 does not limit the switching of the subject image, and for example, 15 fps (15 frames per second), 24 fps (24 frames per second), and 30 fps (30 frames per second). A video signal of the subject (display video signal) is transmitted from the photographing device 1 to the remote support device 5 in order to display the subject video at the default frame rate. In the remote support device 5, when this display video signal is received, an image based on the display video signal is displayed on the display 163a. Thereby, the instructor A can refer to the subject in the front visual field of the worker W (wearer), and can observe the work target, for example. In the present embodiment, the subject image is also displayed on the display unit 40 of the photographing apparatus 1. As a result, the worker W (wearer) can see the area photographed by the photographing unit 20.

続いて、ステップS15では、本撮影放置1の稼動が終了であるか否かが判定され、この判定の結果、稼動が終了である場合(Y)には、処理を終了し、稼動が終了していない場合(N)には、処理をステップS11に戻す。   Subsequently, in step S15, it is determined whether or not the operation of the actual photographing abandonment 1 is finished. If the result of this determination is that the operation is finished (Y), the processing is finished and the operation is finished. If not (N), the process returns to step S11.

一方、ステップS13では、映像表示制御部63の撮影方向判定部631によって、前記ステップS12で判定された撮影ユニット20の撮影方向の反転が前記所定の第1時間内(判定時間A内)であるか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内である場合(Y)には、ステップS21の処理が実行され、一方、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではない場合(N)には、上述のステップS14の処理が実行される。   On the other hand, in step S13, the reversal of the shooting direction of the shooting unit 20 determined in step S12 by the shooting direction determination unit 631 of the video display control unit 63 is within the predetermined first time (in the determination time A). It is determined whether or not. As a result of this determination, when the reversal of the photographing direction of the photographing unit 20 is within the predetermined first time (Y), the process of step S21 is executed, while the reversal of the photographing direction of the photographing unit 20 is If it is not within the predetermined first time (N), the process of step S14 described above is executed.

ここで、この撮影ユニット20の撮影方向の反転が前記所定の第1時間内であるか否かの判定は、例えば、前回の撮影方向の反転を判定した時刻と今回の撮影方向の反転を判定した時刻とを比較することによって判断され、これら時刻の差が前記所定の第1時間内である場合には、撮影方向判定部631によって、撮影ユニット20の撮影方向の反転が前記所定の第1時間内であると判断され、一方、これら時刻の差が前記所定の第1時間内ではない場合には、撮影方向判定部631によって、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではないと判断される。なお、前回の撮影方向の反転を判定した時刻が記憶されていない場合には、撮影装置1の起動後における最初の反転であり、前記所定の第1時間内ではない場合と判断すればよい。   Here, the determination as to whether or not the reversal of the photographing direction of the photographing unit 20 is within the predetermined first time is, for example, the determination of the reversal of the previous photographing direction and the current photographing direction. When the difference between these times is within the predetermined first time, the imaging direction determination unit 631 causes the imaging unit 20 to reverse the imaging direction of the imaging unit 20 when the difference between these times is within the predetermined first time. If it is determined that the time difference is not within the predetermined first time, the reversal of the photographing direction of the photographing unit 20 is performed by the photographing direction determination unit 631 in the predetermined first time. It is judged that it is not within. In addition, when the time at which the previous reversal of the shooting direction is determined is not stored, it may be determined that this is the first reversal after the start of the photographing apparatus 1 and not within the predetermined first time.

続いて、ステップS21では、映像表示制御部63の観察制限制御部632によって、前記所定の第2時間(観察制限時間B)を計時するためのタイマ(例えばソフトウェアタイマ)が0にリセット(初期化)され、その後に、計時がスタート(開始)される。   Subsequently, in step S21, the observation limit control unit 632 of the video display control unit 63 resets (initializes) a timer (for example, software timer) for measuring the predetermined second time (observation limit time B) to 0. After that, the timing starts (starts).

続いて、ステップS22では、観察制限制御部632によって、撮影ユニット20によって撮影された被写体の映像を表示する場合において、その被写体の映像の切り換えを制限すべく、映像の切り換えを制限した被写体の映像の信号(表示用映像信号)が撮影装置1から遠隔支援装置5へ送信される。例えば、上述したように、同じフレームの映像の信号や、被写体を表示しない予め設定された所定のフレームの映像の信号が送信される。遠隔支援装置5では、この表示用映像信号が受信されると、表示用映像信号による、映像の切り換えを制限した映像が、ディスプレイ163aに表示される。これによって指示者Aは、作業者Wの撮影装置1を介して例えば作業対象物を観察している場合に、作業者W(装着者)がその頭部を高速に移動させたり揺らしたりした場合でもあっても、この被写体の映像の切り換えが制限されることによって、前記指示者Aは、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることが低減される。また、本実施形態では、この映像の切り換えを制限した被写体の映像は、撮影装置1の表示ユニット40にも表示される。これによって作業者W(装着者)は、その頭部を高速に移動させたり揺らしたりした場合でもあっても、この撮影された映像によって映像酔い等の気分が悪くなることが低減される。   Subsequently, in step S22, when displaying the video of the subject photographed by the photographing unit 20 by the observation restriction control unit 632, the video of the subject whose switching of the video is restricted to restrict the switching of the video of the subject. (Video signal for display) is transmitted from the photographing apparatus 1 to the remote support apparatus 5. For example, as described above, a video signal of the same frame or a video signal of a predetermined frame that does not display a subject is transmitted. In the remote support device 5, when this display video signal is received, a video in which switching of the video by the display video signal is restricted is displayed on the display 163a. Thereby, the instructor A observes the work object through the photographing device 1 of the worker W, for example, and the worker W (wearer) moves or shakes the head at high speed. However, by restricting the switching of the image of the subject, the instructor A is less likely to feel sick because of the image captured by the camera. In the present embodiment, the video of the subject whose switching of the video is restricted is also displayed on the display unit 40 of the photographing apparatus 1. As a result, even if the operator W (wearer) moves or shakes his / her head at high speed, the feeling of video sickness or the like caused by the captured image is reduced.

続いて、ステップS23において、ステップS11と同様に、撮影ユニット20の撮影方向の変化方向を検出すべく、角速度センサユニット30によって作業者W(装着者)の頭部の角速度が検出され、この検出結果が制御ユニット60へ出力され、制御ユニット60で記憶される。   Subsequently, in step S23, as in step S11, the angular velocity of the head of the operator W (wearer) is detected by the angular velocity sensor unit 30 in order to detect the change direction of the photographing direction of the photographing unit 20, and this detection is performed. The result is output to the control unit 60 and stored in the control unit 60.

続いて、ステップS24では、ステップS12と同様に、映像表示制御部63の撮影方向判定部631によって、この検出結果が記憶され、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化したか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化した場合(Y)には、この今回の撮影方向の反転を判定した時刻が記憶され、ステップS25の処理が実行され、一方、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化していない場合(N)には、ステップS26の処理が実行される。   Subsequently, in step S24, as in step S12, the detection result is stored by the shooting direction determination unit 631 of the video display control unit 63, and the change in the shooting direction of the shooting unit 20 detected based on the detection result is stored. It is determined whether or not the direction has changed in a direction different by about 180 degrees along the vertical direction or the horizontal direction. As a result of this determination, when the change direction of the shooting direction of the shooting unit 20 changes in a direction different by about 180 degrees along the vertical direction or the horizontal direction (Y), the time at which the reversal of the current shooting direction is determined. When the process of step S25 is stored and the change direction of the shooting direction of the shooting unit 20 is not changed to a direction different by about 180 degrees along the vertical direction or the horizontal direction (N), step S26 is performed. The process is executed.

ステップS25では、ステップS13と同様に、映像表示制御部63の撮影方向判定部631によって、前記ステップS24で判定された撮影ユニット20の撮影方向の反転が前記所定の第1時間内(判定時間A内)であるか否かが、判定される。   In step S25, as in step S13, the reversal of the shooting direction of the shooting unit 20 determined in step S24 is performed within the predetermined first time (determination time A) by the shooting direction determination unit 631 of the video display control unit 63. Whether or not).

この判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内である場合(Y)には、ステップS21の処理が実行される。したがって、この場合(Y)では、ステップS21以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が続行されるとともに、前記所定の第2時間(観察制限時間B)の計時が再スタートされる。   As a result of this determination, when the reversal of the photographing direction of the photographing unit 20 is within the predetermined first time (Y), the process of step S21 is executed. Therefore, in this case (Y), the subject video switching restriction (observation restriction) is continued by executing the processing in step S21 and the subsequent steps, and the time measurement of the predetermined second time (observation restriction time B) is resumed. Be started.

一方、このステップS25における判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではない場合(N)には、上述のステップS26の処理が実行される。   On the other hand, if the result of determination in step S25 is that the reversal of the shooting direction of the shooting unit 20 is not within the predetermined first time (N), the process of step S26 described above is executed.

ステップS26では、映像表示制御部63の観察制限制御部632によって、前記タイマがタイムアウトしているか否かが、判定される。すなわち、被写体の映像の切り換えを制限した時刻から前記所定の第2時間(観察制限時間B)が経過したか否かが、判定される。   In step S26, the observation restriction control unit 632 of the video display control unit 63 determines whether or not the timer has timed out. That is, it is determined whether or not the predetermined second time (observation limit time B) has elapsed since the time when the switching of the subject image was limited.

この判定の結果、タイマがタイムアウトしていない場合(N)では、ステップS22の処理が実行される。したがって、この場合(Y)では、ステップS22以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が続行される。   If the result of this determination is that the timer has not timed out (N), processing in step S22 is executed. Therefore, in this case (Y), the subject image switching restriction (observation restriction) is continued by executing the processing in step S22 and subsequent steps.

一方、このステップS26における判定の結果、タイマがタイムアウトしている場合(Y)では、ステップS14の処理が実行される。したがって、この場合(Y)では、ステップS14以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が解除される。   On the other hand, if the result of determination in step S26 is that the timer has timed out (Y), the process of step S14 is executed. Therefore, in this case (Y), the subject video switching restriction (observation restriction) is released by executing the processing in step S14 and subsequent steps.

このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図6(A)に示すように、撮影ユニット20の撮影方向が時刻t11で第1の反転(1)が起こり、続いて、時刻t12で第2の反転(2)が起こり、そして、時刻t13で第3の反転が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t12−t11)および第2の反転(2)から第3の反転(3)が起こる時間間隔T2(=t13−t12)が前記所定の第1時間(判定時間A)よりも長い第1態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が繰り返されることとなり、図6(B)に示すように、被写体の映像は、その切り換えに制限を受けず、指示者Aや作業者Wは、被写体の映像を観察し続けることになる。   In the remote operation support system S and the photographing apparatus 1 operating in this way, for example, as shown in FIG. 6A, the first reversal (1) occurs at the time t11 when the photographing direction of the photographing unit 20 is at time t11. The time interval T1 when the second inversion (2) occurs at the time t12 and the third inversion occurs at the time t13, and the second inversion (2) occurs from the first inversion (1). The time interval T2 (= t13-t12) in which the third inversion (3) occurs from (= t12-t11) and the second inversion (2) is longer than the predetermined first time (determination time A). In the aspect, the processes of Step S11, Step S12, Step S13, Step S14, and Step S15 described above are repeated, and the video of the subject is not limited by the switching as shown in FIG. 6B. ,示者 A and the operator W will continue to observe the image of the subject.

また例えば、このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図7(A)に示すように、撮影ユニット20の撮影方向が時刻t21で第1の反転(1)が起こり、そして、時刻t22で第2の反転(2)が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t22−t21)が前記所定の第1時間(判定時間A)よりも短い第2態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が実行された後に、ステップS11、ステップS12およびステップS13の各処理が実行され、続いて、ステップS21ないしステップS26の各処理が実行され、そして、ステップS14およびステップS15の各処理が実行されることとなり、図7(B)に示すように、被写体の映像は、第2の反転(2)でその反転時刻t22から被写体の映像の切り換えに制限を受け、指示者Aや作業者Wは、前記反転時刻t22から観察制限時間Bが経過するまで、映像の切り換え制限された映像を観察することになり、前記反転時刻t22から観察制限時間Bが経過すると、映像の切り換え制限が解除され、被写体の映像が通常通りに復帰する。   Further, for example, in the remote operation support system S and the photographing apparatus 1 operating in this way, for example, as shown in FIG. 7A, the first reversal (1) occurs when the photographing direction of the photographing unit 20 is at time t21. Then, when the second inversion (2) occurs at time t22, the time interval T1 (= t22−t21) in which the second inversion (2) occurs from the first inversion (1) is the predetermined time. In the second mode that is shorter than the first time (determination time A), after the above-described processing of step S11, step S12, step S13, step S14, and step S15 is executed, step S11, step S12, and step S13 are performed. Each process is executed, and then each process of step S21 to step S26 is executed, and each process of step S14 and step S15 is executed. Thus, as shown in FIG. 7B, the video of the subject is limited to switching of the video of the subject from the inversion time t22 in the second inversion (2), and the instructor A and the operator W Will observe the video whose video switching is restricted until the observation time limit B elapses from the inversion time t22. When the observation time limit B has elapsed from the inversion time t22, the video switching restriction is released. The video of the subject returns to normal.

また例えば、このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図8(A)に示すように、撮影ユニット20の撮影方向が時刻t31で第1の反転(1)が起こり、続いて、時刻t32で第2の反転(2)が起こり、そして、時刻t33で第3の反転が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t32−t31)および第2の反転(2)から第3の反転(3)が起こる時間間隔T2(=t33−t32)が前記所定の第1時間(判定時間A)よりも短い第3態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が実行された後に、ステップS11、ステップS12およびステップS13の各処理が実行され、続いて、ステップS21ないしステップS25の各処理が実行され、そして、再び、ステップS21ないしステップS25の各処理が実行された後に、ステップS26、ステップS14およびステップS15の各処理が実行されることとなり、被写体の映像は、第2の反転(2)でその反転時刻t22から被写体の映像の切り換えに制限を受け、前記反転時刻t32から観察制限時間Bが経過する前に、再び、第3の反転(3)でその反転時刻t33から被写体の映像の切り換えに制限を受け、前記反転時刻t32から前記反転時刻t33を超えて、さらに、前記反転時刻t33から観察制限時間Bが経過するまで、被写体の映像の切り換えに制限を受け続けることになる。このため、指示者Aや作業者Wは、前記反転時刻t32を起点に、前記反転時刻t33から観察制限時間Bが経過するまでの時間帯、映像の切り換え制限された映像を観察することになり、前記反転時刻t33から観察制限時間Bが経過すると、映像の切り換え制限が解除され、被写体の映像が通常通りに復帰する。   Further, for example, in the remote operation support system S and the photographing apparatus 1 operating as described above, for example, as shown in FIG. 8A, the first reversal (1) occurs when the photographing direction of the photographing unit 20 is at time t31. Subsequently, the second inversion (2) occurs at time t32, and the third inversion occurs at time t33, and the second inversion (2) occurs from the first inversion (1). The time interval T1 (= t32−t31) and the time interval T2 (= t33−t32) in which the second inversion (2) to the third inversion (3) occur are longer than the predetermined first time (determination time A). In the short third mode, after the processes of step S11, step S12, step S13, step S14, and step S15 described above are performed, the processes of step S11, step S12, and step S13 are performed. Subsequently, each process of step S21 to step S25 is executed, and after each process of step S21 to step S25 is executed again, each process of step S26, step S14 and step S15 is executed. Thus, the subject image is limited by the second inversion (2) to the switching of the subject image from the inversion time t22, and again before the observation time limit B elapses from the inversion time t32. The reversal (3) is limited to the switching of the subject image from the reversal time t33, exceeds the reversal time t33 from the reversal time t32, and further until the observation time limit B elapses from the reversal time t33. It will continue to be restricted by the switching of the subject image. For this reason, the instructor A or the operator W observes the video whose switching is restricted from the reversal time t32 until the observation time limit B elapses from the reversal time t33. When the observation time limit B elapses from the reversal time t33, the video switching restriction is released, and the subject video is restored as usual.

このように本実施形態の遠隔作業支援システムSおよび撮影装置1では、撮影ユニット20の撮影方向の変化を検出するべく、頭部の角速度が角速度センサユニット30で検出され、その検出された撮影ユニット20の撮影方向の変化に基づいて遠隔支援装置5の出力装置163や撮影装置1の表示ユニット40に表示される被写体の映像の切り換えが制限される。このため、本実施形態の遠隔作業支援システムSおよび撮影装置1は、この被写体の映像の切り換えが制限されることによって、被写体の映像が例えばコマ落としや略静止画等のように表示され、あるいは例えば非表示とされ、映像酔い等の気分が悪くなることを低減することができる。   As described above, in the remote operation support system S and the photographing apparatus 1 of the present embodiment, the angular velocity of the head is detected by the angular velocity sensor unit 30 in order to detect the change in the photographing direction of the photographing unit 20, and the detected photographing unit. Based on the change in the shooting direction of 20, the switching of the image of the subject displayed on the output device 163 of the remote support device 5 or the display unit 40 of the shooting device 1 is restricted. For this reason, the remote work support system S and the photographing apparatus 1 of the present embodiment display the subject image as a frame drop or a substantially still image, for example, by restricting the switching of the subject image, or For example, it is possible to reduce the non-display and worsening of feeling sick such as video sickness.

また、本実施形態では、撮影ユニット20の撮像素子22に、CMOS型イメージセンサが用いられている。上述したように、CMOS型イメージセンサは、各画素の画像信号を順次に走査することによって得ている。このため、頭部が高速に移動したり揺れたりした場合では、映像が歪みやすく、これにより、映像酔い等の気分が悪くなることが、一層、発生しやすい。しかしながら、本実施形態では、上述したように、頭部の角速度が角速度センサユニット30で検出され、その検出された頭部の角速度に基づいて撮影ユニット20の撮影方向の変化が検出され、この検出された撮影ユニット20の撮影方向の変化に基づいて表示用の被写体の映像におけるその切り換えが制限されるので、撮影ユニット20の撮像素子22がCMOS型イメージセンサであっても、表示する場合に、この撮影ユニット20によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。このように本実施形態の遠隔作業支援システムSおよび撮影装置1は、撮影ユニット20の撮像素子22がCMOS型イメージセンサである場合に、効果的である。   In the present embodiment, a CMOS image sensor is used for the image sensor 22 of the photographing unit 20. As described above, the CMOS image sensor is obtained by sequentially scanning the image signal of each pixel. For this reason, when the head moves or shakes at high speed, the image is easily distorted, and it is even more likely that the feeling of sickness such as image sickness is worsened. However, in the present embodiment, as described above, the angular velocity of the head is detected by the angular velocity sensor unit 30, and the change in the photographing direction of the photographing unit 20 is detected based on the detected angular velocity of the head. Since the switching of the image of the subject to be displayed is limited based on the change in the shooting direction of the shooting unit 20 that has been performed, even when the image sensor 22 of the shooting unit 20 is a CMOS image sensor, It is possible to reduce the feeling of sickness such as video sickness caused by the video shot by the shooting unit 20. As described above, the remote operation support system S and the imaging apparatus 1 of the present embodiment are effective when the imaging element 22 of the imaging unit 20 is a CMOS image sensor.

また、本実施形態では、表示ユニット40は、撮影ユニット20の電子ファインダとして機能し、撮影ユニット20とともに装着ユニット10に取り付けられている。このような構成であっても、本実施形態では、頭部の角速度が角速度センサユニット30で検出され、その検出された頭部の角速度に基づいて撮影ユニット20の撮影方向の変化が検出され、この検出された撮影ユニット20の撮影方向に基づいて表示用の被写体の映像におけるその切り換えが制限されるので、作業者W(装着者)において、この撮影ユニット20によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。また、本実施形態のように表示ユニット40が撮影ユニット20の電子ファインダとして機能し、表示ユニット40と撮影ユニット20とが一体的に構成されている場合に、効果的である。   In the present embodiment, the display unit 40 functions as an electronic viewfinder of the photographing unit 20 and is attached to the mounting unit 10 together with the photographing unit 20. Even in such a configuration, in this embodiment, the angular velocity of the head is detected by the angular velocity sensor unit 30, and the change in the photographing direction of the photographing unit 20 is detected based on the detected angular velocity of the head. Based on the detected shooting direction of the shooting unit 20, the switching of the video of the subject to be displayed is limited. Therefore, the worker W (wearer) is intoxicated by the video shot by the shooting unit 20. It is possible to reduce the worsening of the mood. Moreover, it is effective when the display unit 40 functions as an electronic viewfinder of the photographing unit 20 and the display unit 40 and the photographing unit 20 are integrally configured as in the present embodiment.

また、本実施形態では、表示ユニット40の接眼光学系41が装着ユニット10の透明部材14Rに取り付けられている。このような構成では、透明部材14Rが被写体の光像を所定の透過率で透過するとともに、表示ユニット40の接眼光学系41がこの透明部材14Rに設けられた表示ユニット40の接眼光学系41によって、被写体の映像を被写体の光像に重ねて表示することができる。このため、このような構成では、作業者W(装着者)の視界を損なうことが低減され、作業者Wは、作業者Wの視界にある外界と表示ユニット40の表示とを一緒に見ることができる。したがって、本実施形態の撮影装置1は、作業支援に効果的である。   In the present embodiment, the eyepiece optical system 41 of the display unit 40 is attached to the transparent member 14 </ b> R of the mounting unit 10. In such a configuration, the transparent member 14R transmits the optical image of the subject with a predetermined transmittance, and the eyepiece optical system 41 of the display unit 40 is provided by the eyepiece optical system 41 of the display unit 40 provided on the transparent member 14R. The image of the subject can be displayed superimposed on the optical image of the subject. For this reason, in such a configuration, the loss of the view of the worker W (wearer) is reduced, and the worker W views the outside world in the view of the worker W and the display of the display unit 40 together. Can do. Therefore, the imaging device 1 of this embodiment is effective for work support.

なお、本実施形態では、撮影装置1は、映像を表示することができるように表示ユニット40を備えているが、指示者Aの指示を音声のみで作業者Wに提供する場合には、表示ユニット40は、備えていなくてもよい。   In the present embodiment, the photographing apparatus 1 includes the display unit 40 so that an image can be displayed. However, when the instruction from the instructor A is provided to the worker W only by voice, the display unit 40 is displayed. The unit 40 may not be provided.

また、本実施形態では、角速度センサユニット30は、鉛直方向角速度センサ部31および水平方向角速度センサ部32を備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合および撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合のうちの少なくとも一方の場合に、被写体の映像の切り換えを制限するものであったが、角速度センサユニット30は、鉛直方向角速度センサ部31のみを備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合に、被写体の映像の切り換えを制限するものであってもよく、また、角速度センサユニット30は、水平方向角速度センサ部32のみを備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合に、被写体の映像の切り換えを制限するものであってもよい。   In the present embodiment, the angular velocity sensor unit 30 includes a vertical angular velocity sensor unit 31 and a horizontal angular velocity sensor unit 32, and the video display control unit 63 is based on the output of the angular velocity sensor unit 30. At least one of the case where the shooting direction reciprocates along the vertical direction within a predetermined first time and the case where the shooting direction of the shooting unit 20 reciprocates along the horizontal direction within a predetermined first time However, the angular velocity sensor unit 30 includes only the vertical angular velocity sensor unit 31, and the image display control unit 63 captures images based on the output of the angular velocity sensor unit 30. Limiting switching of the subject image when the shooting direction of the unit 20 reciprocates along the vertical direction within a predetermined first time. Further, the angular velocity sensor unit 30 includes only the horizontal angular velocity sensor unit 32, and the video display control unit 63 determines whether the photographing direction of the photographing unit 20 is predetermined based on the output of the angular velocity sensor unit 30. When the reciprocating movement is performed along the horizontal direction within the first time, the switching of the image of the subject may be limited.

特に、角速度センサユニット30が鉛直方向角速度センサ部31のみを備える場合に、この鉛直方向角速度センサ部31として、水平センサを用いることで、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出するためのセンサを構成することが可能となる。この水平センサは、振り子式のセンサであり、振り子(一方端に錘が吊り下げられるとともに周方向に変位可能に他方端が支持された線材)の傾きで鉛直面内における撮影方向を検出することができる。   In particular, when the angular velocity sensor unit 30 includes only the vertical angular velocity sensor unit 31, a horizontal sensor is used as the vertical angular velocity sensor unit 31, so that the vertical direction in the photographing direction can be reduced with a relatively simple structure. It is possible to configure a sensor for detecting reciprocating movement along. This horizontal sensor is a pendulum type sensor, and detects the photographing direction in the vertical plane by the inclination of the pendulum (a wire rod having a weight suspended at one end and supported at the other end so that it can be displaced in the circumferential direction). Can do.

また、本実施形態では、図4に破線で示すように、撮影ユニット20によって撮影され、映像表示制御部63の映像表示制御63によって被写体の映像の切り換えを制限する前の前記被写体の映像と制限した区間情報を併せて記録する記録部70をさらに備えて構成されてもよい。記録部70は、例えば、ハードディスク、フラッシュメモリ等のメモリカード等を備えて構成される。本実施形態では、画像メモリ61には、被写体の映像の切り換えを制限する前の被写体の映像が記憶されているので、このような構成を容易に実現することが可能である。このように構成することによって、被写体の映像の切り換えを制限する前の被写体の映像が記録部70に記録されるので、頭部が高速に移動したり揺れたりした場合でもあっても、より正確な被写体の映像を記録することができる。また、切り換え制限した区間情報を併せて記録することで、後日、保存された映像を観察する際に、必要に応じて制限部分をスキップし、映像酔い等が発生することなく観察することも選択可能となる。   Further, in the present embodiment, as indicated by a broken line in FIG. 4, the image is captured by the photographing unit 20 and is limited to the image of the subject before the image display control 63 of the image display control unit 63 restricts the switching of the object image. It may be configured to further include a recording unit 70 that records the section information together. The recording unit 70 includes, for example, a memory card such as a hard disk or a flash memory. In this embodiment, since the image of the subject before the switching of the subject image is restricted is stored in the image memory 61, such a configuration can be easily realized. With this configuration, since the subject image before the switching of the subject image is restricted is recorded in the recording unit 70, even if the head moves or shakes at high speed, it is more accurate. It is possible to record a video of a simple subject. In addition, by recording the section information that is restricted by switching, it is also possible to skip the restricted part as necessary when observing the stored video at a later date, and select to observe without causing video sickness. It becomes possible.

さらに、この撮影装置1は、この切り換え制限後の被写体の映像だけでなく、この被写体の映像の切り換え制限前の被写体の映像をネットワークIF部68を用いて撮影装置1から遠隔支援装置5へ送信するように構成され、支援記録サーバPC7は、この切り換え制限前のこの被写体の映像を記憶して記録するように構成されてもよい。切り換え制限前の被写体の映像は、例えば、所定時間纏めて適宜なタイミングで送信される。このように構成することによって、被写体の映像の切り換えを制限する前の被写体の映像が支援記録サーバPC7に記録されるので、頭部が高速に移動したり揺れたりした場合でもあっても、より正確な被写体の映像を記録することができる。   Furthermore, the photographing apparatus 1 transmits not only the subject image after the switching restriction but also the subject image before the subject switching restriction from the photographing apparatus 1 to the remote support device 5 using the network IF unit 68. The support recording server PC 7 may be configured to store and record the video of the subject before the switching restriction. For example, the video of the subject before the switching restriction is transmitted at an appropriate timing all together for a predetermined time. With this configuration, the subject image before the switching of the subject image is restricted is recorded in the support recording server PC 7, so even if the head moves or shakes at high speed, Accurate video of the subject can be recorded.

また、上述の実施形態では、撮影ユニット20の撮影方向の変化は、角速度センサユニット30で検出した装着者(作業者W)の頭部の角速度に基づいて検出されたが、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、検出されてもよい。   In the above-described embodiment, the change in the shooting direction of the shooting unit 20 is detected based on the angular velocity of the head of the wearer (worker W) detected by the angular velocity sensor unit 30. It may be detected by extracting corresponding points between two images of the image of the subject that has been extracted by corresponding point search processing.

図9は、実施形態にかかる遠隔作業支援システムにおける撮影装置の他の電気的な構成を示すブロック図である。このような遠隔作業支援システムSにおける撮影装置1Aは、図9に示すように、図略の装着ユニット10と、撮影ユニット20と、表示ユニット40と、音入出力ユニット50と、制御ユニット60Aとを備えて構成される。これら装着ユニット10、撮影ユニット20、表示ユニット40および音入出力ユニット50は、図1ないし図8を用いて説明した上記実施形態の撮影装置1における装着ユニット10、撮影ユニット20、表示ユニット40および音入出力ユニット50と同様であるので、その説明を省略する。   FIG. 9 is a block diagram illustrating another electrical configuration of the imaging apparatus in the remote operation support system according to the embodiment. As shown in FIG. 9, the photographing apparatus 1A in such a remote work support system S includes an unillustrated mounting unit 10, a photographing unit 20, a display unit 40, a sound input / output unit 50, and a control unit 60A. It is configured with. The mounting unit 10, the photographing unit 20, the display unit 40, and the sound input / output unit 50 are the mounting unit 10, the photographing unit 20, the display unit 40, and the mounting unit 10 in the photographing apparatus 1 of the above-described embodiment described with reference to FIGS. Since it is the same as that of the sound input / output unit 50, its description is omitted.

そして、制御ユニット60Aは、撮影装置1Aの全体制御を司る回路であり、画像メモリ61と、制御部62Aと、VRAM64と、音入力処理部65と、音出力処理部66と、電源スイッチ67と、ネットワークIF部68とを備えて構成される。これら画像メモリ61、VRAM64、音入力処理部65、音出力処理部66、電源スイッチ67およびネットワークIF部68は、図1ないし図8を用いて説明した上記実施形態の撮影装置1の制御ユニット60における画像メモリ61、VRAM64、音入力処理部65、音出力処理部66およびネットワークIF部68と同様であるので、その説明を省略する。   The control unit 60A is a circuit that performs overall control of the photographing apparatus 1A, and includes an image memory 61, a control unit 62A, a VRAM 64, a sound input processing unit 65, a sound output processing unit 66, and a power switch 67. And a network IF unit 68. The image memory 61, the VRAM 64, the sound input processing unit 65, the sound output processing unit 66, the power switch 67, and the network IF unit 68 are the control unit 60 of the photographing apparatus 1 according to the above-described embodiment described with reference to FIGS. The image memory 61, the VRAM 64, the sound input processing unit 65, the sound output processing unit 66, and the network IF unit 68 in FIG.

制御部62Aは、撮影装置1Aの各部を当該機能に応じて制御する回路であり、例えば、マイクロコンピュータ等によって構成される。制御部62Aは、図1ないし図8を用いて説明した上記実施形態の撮影装置1における制御部62の機能に加え、さらに、機能的に、撮影方向検出部80を備えている。この撮影方向検出部80は、対応点探索部であって、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、撮影ユニット20の撮影方向を検出するものである。   The control unit 62A is a circuit that controls each unit of the photographing apparatus 1A according to the function, and is configured by, for example, a microcomputer. In addition to the function of the control unit 62 in the photographing apparatus 1 of the above-described embodiment described with reference to FIGS. 1 to 8, the control unit 62A further includes a photographing direction detection unit 80. The shooting direction detection unit 80 is a corresponding point search unit, and extracts a corresponding point between two images of a subject image shot by the shooting unit 20 by a corresponding point search process, whereby the shooting unit is detected. 20 shooting directions are detected.

この対応点探索処理による撮影ユニット20の撮影方向の検出では、撮影方向検出部80は、次のように動作する。まず、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像が抽出される。例えば、撮影ユニット20によって撮影された被写体の映像における今回のフレームにおける撮影ユニット20の撮影方向を検出する場合には、今回のフレームと、今回のフレームから予め設定された所定のフレームだけ時間的に遡った過去のフレームとが抽出される。例えば、フレームレートが24fpsである場合に、1秒間に、3回、撮影ユニット20の撮影方向を検出する場合では、今回のフレームと今回のフレームより8フレームだけ時間的に前のフレームとが取り出される。   In the detection of the shooting direction of the shooting unit 20 by the corresponding point search process, the shooting direction detection unit 80 operates as follows. First, two images out of the video of the subject photographed by the photographing unit 20 are extracted. For example, when detecting the shooting direction of the shooting unit 20 in the current frame in the video of the subject shot by the shooting unit 20, the current frame and a predetermined frame set in advance from the current frame are temporally determined. The past frames that are traced back are extracted. For example, when the frame rate is 24 fps and the shooting direction of the shooting unit 20 is detected three times per second, the current frame and the previous frame in time by 8 frames are extracted. It is.

次に、今回のフレームにおける画像の中から予め設定された所定の特徴点が設定される。この所定の特徴点は、例えば、画像における予め設定された特定の位置(例えば画像の中央位置等)であっても良く、また例えば、画像の中から予め設定された特定の対象物であっても良い。前記特定の対象物は、例えば、前記特定の対象物の画像を予め記憶して登録しておき、パターンマッチングによって前記画像の中から検索される。また、この所定の特徴点は、1個であっても良く、また複数であってもよい。処理時間を短縮する観点からは、この所定の特徴点は、1個であることが好ましく、また、撮影ユニット20の撮影方向をより正確に検出する観点からは、この所定の特徴点は、複数であることが好ましい。また、この所定の特徴点は、複数の画素から構成されてよい。   Next, predetermined feature points set in advance from the image in the current frame are set. The predetermined feature point may be, for example, a specific position set in advance in the image (for example, the center position of the image), for example, and may be a specific target set in advance in the image. Also good. For example, the specific object is stored and registered in advance as an image of the specific object, and is searched from the image by pattern matching. Further, the predetermined feature point may be one or plural. From the viewpoint of shortening the processing time, it is preferable that the predetermined feature point is one, and from the viewpoint of more accurately detecting the shooting direction of the shooting unit 20, there are a plurality of the predetermined feature points. It is preferable that The predetermined feature point may be composed of a plurality of pixels.

次に、今回のフレームの画像における前記所定の特徴点が過去のフレームの画像におけるいずれの位置に存在するかが、マッチング処理によって探索される。より具体的には、前記所定の特徴点を構成する画素の画素値と略一致する画素値を持つ画素が、過去のフレームの画像から探索され、過去のフレームにおいて、前記略一致する画素値を持つ画素の位置が、今回のフレームの画像における前記所定の特徴点に対応する過去のフレームの画像における位置とされる。   Next, the matching process searches for the position where the predetermined feature point in the image of the current frame exists in the image of the past frame. More specifically, a pixel having a pixel value that substantially matches a pixel value of a pixel that constitutes the predetermined feature point is searched from an image of a past frame, and the pixel value that substantially matches the pixel value in the past frame is determined. The position of the possessed pixel is the position in the past frame image corresponding to the predetermined feature point in the current frame image.

そして、今回のフレームの画像における前記所定の特徴点の位置と、前記所定の特徴点に対応する過去のフレームの画像における画素の位置とから、撮影ユニット20の撮影方向が求められ、撮影ユニット20の撮影方向が検出される。   Then, the shooting direction of the shooting unit 20 is obtained from the position of the predetermined feature point in the image of the current frame and the position of the pixel in the image of the past frame corresponding to the predetermined feature point. The shooting direction is detected.

このように構成することによって、遠隔作業支援システムSおよび撮影装置1Aは、対応点探索処理の画像処理で撮影ユニット20の撮影方向の変化を検出するので、例えば角速度センサユニット30のようなセンサ部品を、別途に必要せず、センサレスでソフトウェアによって撮影方向検出部を構成することが可能となる。   By configuring in this way, the remote operation support system S and the imaging apparatus 1A detect a change in the imaging direction of the imaging unit 20 by the image processing of the corresponding point search process, and thus, for example, a sensor component such as the angular velocity sensor unit 30 The photographing direction detecting unit can be configured by software without using a sensor.

本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。   In order to express the present invention, the present invention has been properly and fully described through the embodiments with reference to the drawings. However, those skilled in the art can easily change and / or improve the above-described embodiments. It should be recognized that this is possible. Therefore, unless the modifications or improvements implemented by those skilled in the art are at a level that departs from the scope of the claims recited in the claims, the modifications or improvements are not covered by the claims. To be construed as inclusive.

S 遠隔作業支援システム
1、1A 撮影装置
5 遠隔支援装置
6 メインサーバコンピュータ装置
7 支援記録サーバコンピュータ装置
8 コンテンツサーバコンピュータ装置
10 装着ユニット
20 撮影ユニット
30 角速度センサユニット
31 鉛直方向角速度センサ部
32 水平方向角速度センサ部
40 表示ユニット
41 接眼光学系
41a 光学プリズム
41b 反射部
50 音入出力ユニット
60、60A 制御ユニット
63 映像表示制御部
631 撮影方向判定部
632 観察制限制御部
70 記録部
80 撮影方向検出部
S Remote Work Support System 1, 1A Imaging Device 5 Remote Support Device 6 Main Server Computer Device 7 Support Recording Server Computer Device 8 Content Server Computer Device 10 Mounting Unit 20 Imaging Unit 30 Angular Velocity Sensor Unit 31 Vertical Angular Velocity Sensor Unit 32 Horizontal Angular Velocity Sensor unit 40 Display unit 41 Eyepiece optical system 41a Optical prism 41b Reflector 50 Sound input / output unit 60, 60A Control unit 63 Video display control unit 631 Shooting direction determination unit 632 Observation restriction control unit 70 Recording unit 80 Shooting direction detection unit

Claims (16)

頭部に装着する装着部と、被写体を撮影する撮影部とを備える頭部装着式撮影部と、
前記撮影部の撮影方向の変化を検出する撮影方向検出部と、
前記撮影方向検出部で検出された前記撮影部の撮影方向の変化が、所定の第1時間内において所定の方向に沿う往復移動の場合に、前記撮影部によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限する映像表示制御部とを備えること
を特徴とする撮影装置。
A head-mounted imaging unit comprising an installation unit to be mounted on the head and an imaging unit for imaging the subject;
A shooting direction detection unit that detects a change in the shooting direction of the shooting unit;
When the change in the shooting direction of the shooting unit detected by the shooting direction detection unit is a reciprocating movement along a predetermined direction within a predetermined first time, an image of the subject shot by the shooting unit is displayed. And a video display control unit for restricting switching of the video of the subject in the case.
前記往復移動は、前記撮影方向検出部で検出された前記撮影部の撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化することであること
を特徴とする請求項1に記載の撮影装置。
The reciprocating movement is characterized in that the photographing direction of the photographing unit detected by the photographing direction detecting unit changes two or more times in a direction different by about 180 degrees along the predetermined direction. The imaging device described in 1.
前記所定の第1時間は、0.3秒〜3秒であること
を特徴とする請求項1または請求項2に記載の撮影装置。
The photographing apparatus according to claim 1, wherein the predetermined first time is 0.3 seconds to 3 seconds.
前記映像表示制御部は、所定の第2時間の間、前記被写体の映像におけるフレームを更新しないことによって、前記被写体の映像の切り換えを制限すること
を特徴とする請求項1ないし請求項3のいずれか1項に記載の撮影装置。
The video display control unit restricts switching of the video of the subject by not updating a frame in the video of the subject for a predetermined second time. The imaging device according to claim 1.
前記映像表示制御部は、所定の第2時間の間、前記被写体の映像を表示しないことによって、前記被写体の映像の切り換えを制限すること
を特徴とする請求項1ないし請求項3のいずれか1項に記載の撮影装置。
The video display control unit restricts switching of the video of the subject by not displaying the video of the subject during a predetermined second time period. The imaging device according to item.
前記所定の第2時間は、前記第1時間よりも長く、かつ、1秒〜5秒であること
を特徴とする請求項1ないし請求項5のいずれか1項に記載の撮影装置。
The photographing apparatus according to claim 1, wherein the predetermined second time is longer than the first time and is 1 second to 5 seconds.
前記所定の方向は、鉛直方向であること
を特徴とする請求項1ないし請求項6のいずれか1項に記載の撮影装置。
The photographing apparatus according to any one of claims 1 to 6, wherein the predetermined direction is a vertical direction.
前記所定の方向は、水平方向であること
を特徴とする請求項1ないし請求項7のいずれか1項に記載の撮影装置。
The photographing apparatus according to any one of claims 1 to 7, wherein the predetermined direction is a horizontal direction.
前記撮影方向検出部は、水平センサを備えること
を特徴とする請求項1ないし請求項7のいずれか1項に記載の撮影装置。
The imaging apparatus according to claim 1, wherein the imaging direction detection unit includes a horizontal sensor.
前記撮影方向検出部は、角速度センサを備えること
を特徴とする請求項1ないし請求項8のいずれか1項に記載の撮影装置。
The imaging apparatus according to any one of claims 1 to 8, wherein the imaging direction detection unit includes an angular velocity sensor.
前記撮影方向検出部は、前記撮影部によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、前記撮影部の撮影方向を検出する対応点探索部を備えること
を特徴とする請求項1ないし請求項8のいずれか1項に記載の撮影装置。
The shooting direction detection unit detects a shooting direction of the shooting unit by extracting a corresponding point between two images of a subject image shot by the shooting unit by a corresponding point search process. The imaging apparatus according to claim 1, further comprising a search unit.
前記頭部装着式撮影部の撮影部は、前記被写体の光学像を電気的な信号に変換する撮像素子と、前記撮像素子の受光面上に前記被写体の光学像を形成する光学系とを備え、
前記撮像素子は、CMOS型イメージセンサであること
を特徴とする請求項1ないし請求項11のいずれか1項に記載の撮影装置。
The imaging unit of the head-mounted imaging unit includes an imaging device that converts an optical image of the subject into an electrical signal, and an optical system that forms the optical image of the subject on a light receiving surface of the imaging device. ,
The imaging device according to claim 1, wherein the image sensor is a CMOS image sensor.
前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する表示部をさらに備えること
を特徴とする請求項1ないし請求項12の何れか1項に記載の撮影装置。
The imaging device according to any one of claims 1 to 12, further comprising a display unit that displays an image of a subject imaged by the imaging unit of the head-mounted imaging unit.
前記表示部は、前記頭部装着式撮影部に備えられていること
を特徴とする請求項13に記載の撮影装置。
The imaging apparatus according to claim 13, wherein the display unit is provided in the head-mounted imaging unit.
音を音信号に変換する音入力部と、音信号を音に変換する音出力と、通信信号を送受信する通信部と、前記通信部の送受信を制御する通信制御部とをさらに備え、
前記通信制御部は、前記音入力部によって変換された音信号を前記通信部に送信させるとともに、音を出力させるべく、前記通信部によって受信された音信号を前記音出力部へ出力すること
を特徴とする請求項1ないし請求項14のいずれか1項に記載の撮影装置。
A sound input unit that converts sound into a sound signal; a sound output that converts sound signal into sound; a communication unit that transmits and receives communication signals; and a communication control unit that controls transmission and reception of the communication unit;
The communication control unit causes the sound signal converted by the sound input unit to be transmitted to the communication unit, and outputs the sound signal received by the communication unit to the sound output unit in order to output sound. 15. The photographing apparatus according to claim 1, wherein the photographing apparatus is characterized in that:
撮影装置と、通信網を介して前記撮影装置と通信可能に接続される遠隔作業支援装置とを備える遠隔作業支援システムであって、
前記撮影装置は、請求項1ないし請求項15のいずれか1項に記載の撮影装置であり、
前記遠隔作業支援装置は、前記通信網を介して受信され、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する第2表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えること
を特徴とする遠隔作業支援システム。
A remote work support system comprising a photographing device and a remote work support device communicably connected to the photographing device via a communication network,
The imaging device is the imaging device according to any one of claims 1 to 15,
The remote operation support device receives a command from an instructor by receiving a second display unit that displays an image of a subject received by the imaging unit of the head-mounted imaging unit and received via the communication network. A remote work support system comprising: an instruction receiving unit that transmits an instruction to the photographing apparatus via the communication network.
JP2009262968A 2009-11-18 2009-11-18 Photographing apparatus and remote operation support system Pending JP2011109463A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009262968A JP2011109463A (en) 2009-11-18 2009-11-18 Photographing apparatus and remote operation support system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009262968A JP2011109463A (en) 2009-11-18 2009-11-18 Photographing apparatus and remote operation support system

Publications (1)

Publication Number Publication Date
JP2011109463A true JP2011109463A (en) 2011-06-02

Family

ID=44232459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009262968A Pending JP2011109463A (en) 2009-11-18 2009-11-18 Photographing apparatus and remote operation support system

Country Status (1)

Country Link
JP (1) JP2011109463A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015119324A (en) * 2013-12-18 2015-06-25 カシオ計算機株式会社 Moving image processing device, moving image processing method, and program
JP2016126365A (en) * 2014-12-26 2016-07-11 セイコーエプソン株式会社 Display system, display device, information display method, and program
JP2021027419A (en) * 2019-08-01 2021-02-22 国立大学法人富山大学 Imaging apparatus for forehead band and image control method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015119324A (en) * 2013-12-18 2015-06-25 カシオ計算機株式会社 Moving image processing device, moving image processing method, and program
JP2016126365A (en) * 2014-12-26 2016-07-11 セイコーエプソン株式会社 Display system, display device, information display method, and program
JP2021027419A (en) * 2019-08-01 2021-02-22 国立大学法人富山大学 Imaging apparatus for forehead band and image control method
JP7228190B2 (en) 2019-08-01 2023-02-24 国立大学法人富山大学 Imaging device for forehead band and image control method

Similar Documents

Publication Publication Date Title
US7286753B2 (en) Image capturing apparatus
US9596390B2 (en) Imaging apparatus, imaging method, and computer-readable recording medium
JP5193404B2 (en) Information equipment
JP2013150265A (en) Imaging apparatus, display method, and program
JP2011101300A (en) Photographing device and remote operation support system
JP2015186020A (en) Display apparatus, photographing apparatus, and display method
JP2006217520A (en) Video display device and glasses type video display device
JP2009075610A (en) See-through type display device with hazard prevention function and hazard prevention method when see-through type display device is used
JP4931693B2 (en) Information equipment
WO2011058707A1 (en) Imaging device and remote operations support system
JP2011109463A (en) Photographing apparatus and remote operation support system
JP2008123257A (en) Remote operation support system and display control method
JP2008113317A (en) Remote operation support system
JP2011109462A (en) Image transmission device, imaging device, and remote work support system
JP2007219069A (en) Image display
JP2004104652A (en) Image pickup device
JP2000132329A (en) Device and method for recognizing surface and virtual image solid synthesizer
JP2007174218A (en) Display device
JP2011109276A (en) Camera finder, photographing apparatus, and remote operation support system
JP5529303B2 (en) Information equipment
JP2014082586A (en) Photographing apparatus
JP2010193287A (en) Camera
WO2011055526A1 (en) Image transmission device, imaging device, and remote work support system
JP2005303842A (en) Head-mounting camera
JP2005252734A (en) Head-mounted camera