JP2011109463A - Photographing apparatus and remote operation support system - Google Patents
Photographing apparatus and remote operation support system Download PDFInfo
- Publication number
- JP2011109463A JP2011109463A JP2009262968A JP2009262968A JP2011109463A JP 2011109463 A JP2011109463 A JP 2011109463A JP 2009262968 A JP2009262968 A JP 2009262968A JP 2009262968 A JP2009262968 A JP 2009262968A JP 2011109463 A JP2011109463 A JP 2011109463A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- photographing
- image
- subject
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
Description
本発明は、頭部に装着されるカメラによって撮影された映像を表示装置に表示する撮影装置およびこの撮影装置を用いた遠隔作業支援システムに関する。 The present invention relates to a photographing device that displays an image photographed by a camera mounted on a head on a display device, and a remote work support system using the photographing device.
頭部に装着される頭部装着式のカメラは、装着者の体験映像を得ることができることから、例えば、前記装着者の体験映像を指示者に送信して指示者から適宜な指示を受信する遠隔作業支援システムや、前記装着者の体験映像を記録しておき適時にこの記録しておいた体験映像を提示することで過去の体験を前記装着者に想起させる日常生活支援システム等に活用されている。また、頭部装着式のカメラは、体験映像を得るために装着者の手を煩わせることがないため、装着者は、手を自由に使える利点もある。 Since the head-mounted camera mounted on the head can obtain a wearer's experience video, for example, the wearer's experience video is transmitted to the instructor and an appropriate instruction is received from the instructor. Used in remote work support systems and daily life support systems that record the wearer's experience video and present the recorded experience video in a timely manner to remind the wearer of past experiences. ing. In addition, the head-mounted camera does not bother the wearer's hand in order to obtain the experience image, and thus there is an advantage that the wearer can use the hand freely.
このような頭部装着式のカメラは、例えば、特許文献1および特許文献2に開示されている。この特許文献1に開示の撮像装置は、撮影者の頭部に装着し得るように構成されたものであり、画像データを生成するための撮像手段と、上記撮影者の頭部に装着し得るように構成されたものであり、被写体を観察するときの上記撮影者の動きに関連する生体情報であって、かつ上記画像データを編集処理する際に用いる生体情報、を検出するための生体情報検出手段と、上記画像データを、該画像データが生成されたタイム情報に関連付けて記録するための画像データ記録手段と、上記生体情報を、上記画像データが生成されたタイム情報に関連付けて記録するための生体情報記録手段とを具備している。上記生体情報検出手段は、上記生体情報として撮影者の頭部の角速度を検出するための角速度検出手段を含み、上記編集処理は、記録された画像データの、カッティングと、ぶれ補正と、記録時間の引き延ばしと、電子ズーミングとの内の少なくとも1つである。上記カッティングは、ぶれ補正等を行うことができない場合に、このぶれ補正等を行うことができない特定の画像に対して行われる。このような構成によって、特許文献1に開示の撮像装置では、撮影者の意思を反映した編集処理を撮影後に行うことができる。 Such head-mounted cameras are disclosed in, for example, Patent Document 1 and Patent Document 2. The imaging device disclosed in Patent Document 1 is configured to be worn on the photographer's head, and can be worn on the photographer's head and imaging means for generating image data. The biometric information for detecting biometric information related to the movement of the photographer when observing the subject and used for editing the image data. Detection means, image data recording means for recording the image data in association with the time information at which the image data was generated, and biometric information recorded in association with the time information at which the image data was generated And biometric information recording means. The biological information detecting means includes angular velocity detecting means for detecting an angular velocity of a photographer's head as the biological information, and the editing process includes cutting, blur correction, and recording time of recorded image data. Is at least one of stretching and electronic zooming. The cutting is performed on a specific image that cannot be subjected to blur correction or the like when the blur correction or the like cannot be performed. With such a configuration, the imaging apparatus disclosed in Patent Document 1 can perform editing processing reflecting the intention of the photographer after shooting.
また、特許文献2に開示の頭部装着式映像表示装置は、映像を表示する表示ユニットと、当該頭部装着式映像表示装置から作業対象物までの距離を検出する距離検出部と、前記表示ユニットに表示させる、作業対象物の参照映像の表示サイズを調整する表示制御部とを備え、前記参照映像には、前記作業対象物の現実の大きさに対する該参照映像の縮尺比情報が添付され、前記表示制御部は、前記距離検出部で検出された距離と前記参照映像に添付されている縮尺比情報とに基づいて、前記表示ユニットに表示させる前記参照映像の表示サイズを調整するものである。このような構成によって、特許文献2に開示の頭部装着式映像表示装置は、作業者や指示者へ負担を課することなく、作業に適切なサイズの参照画像を表示することができる。そして、特許文献2には、この頭部装着式映像表示装置を用いた遠隔作業支援システムも開示されている。 In addition, a head-mounted video display device disclosed in Patent Document 2 includes a display unit that displays video, a distance detection unit that detects a distance from the head-mounted video display device to a work object, and the display. A display control unit for adjusting a display size of a reference image of the work object to be displayed on the unit, and the reference image is attached with scale ratio information of the reference image with respect to an actual size of the work object. The display control unit adjusts the display size of the reference video to be displayed on the display unit based on the distance detected by the distance detection unit and the scale ratio information attached to the reference video. is there. With such a configuration, the head-mounted video display device disclosed in Patent Document 2 can display a reference image having a size suitable for work without imposing a burden on the worker or the instructor. Patent Document 2 also discloses a remote work support system using this head-mounted video display device.
ところで、頭部装着式のカメラでは、頭部の動きに伴ってカメラの撮影方向が動くため、頭部が例えば高速に移動したり揺れたりすると、カメラによって撮影された映像も流れたり揺れたりする。このため、このカメラによって撮影された映像を見る観察者は、この撮影映像の揺れにより、映像酔い等の気分が悪くなってしまうことがある。特に、頭部装着式のカメラを頭部に装着した装着者が、肯定や否定を頭部の往復運動による頷き動作で示す場合に、このような事態が顕著に起こり得る。 By the way, in a head-mounted camera, the shooting direction of the camera moves with the movement of the head, so if the head moves or shakes at high speed, for example, the video shot by the camera also flows and shakes. . For this reason, the observer who sees the video image | photographed with this camera may get sick feelings, such as video sickness, by the shake of this picked-up image | video. In particular, such a situation may occur remarkably when a wearer who wears a head-mounted camera on the head shows affirmation or denial by a whirling motion by reciprocating movement of the head.
本発明は、上述の事情に鑑みて為された発明であり、その目的は、頭部装着式のカメラにおいて、頭部が高速に移動したり揺れたりした場合でもあっても、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることを低減することができる撮影装置およびこの撮影装置を用いた遠隔作業支援システムを提供することである。 The present invention has been made in view of the above circumstances, and its purpose is to shoot with this head-mounted camera even if the head moves or shakes at high speed. An imaging device capable of reducing the feeling of sickness such as video sickness due to the recorded video and a remote work support system using the imaging device are provided.
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる撮影装置は、頭部に装着する装着部と、被写体を撮影する撮影部とを備える頭部装着式撮影部と、前記撮影部の撮影方向の変化を検出する撮影方向検出部と、前記撮影方向検出部で検出された前記撮影部の撮影方向の変化が、所定の第1時間内において所定の方向に沿う往復移動の場合に、前記撮影部によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限する映像表示制御部とを備えることを特徴とする。 As a result of various studies, the present inventor has found that the above object is achieved by the present invention described below. That is, an imaging apparatus according to one aspect of the present invention detects a change in the imaging direction of a head-mounted imaging unit that includes a mounting unit that is mounted on a head and an imaging unit that images a subject. The photographing direction is detected by the photographing unit when the change in the photographing direction of the photographing unit detected by the photographing direction detecting unit and the photographing direction detecting unit is reciprocating along a predetermined direction within a predetermined first time. And a video display control unit that restricts switching of the video of the subject when the video of the subject is displayed.
このような構成の撮影装置では、頭部に装着される頭部装着式撮影部の撮影部における撮影方向の変化が撮影方向検出部によって検出され、その検出された撮影方向の変化が所定の第1時間内において所定の方向に沿う往復移動の場合に、撮影部によって撮影された被写体の映像の切り換えが制限される。この被写体の映像の切り換えが制限されることによって、被写体の映像が例えばコマ落としや略静止画等のように表示され、あるいは例えば非表示とされ、映像酔い等の気分が悪くなることを低減することができる。 In the imaging apparatus having such a configuration, a change in the imaging direction in the imaging unit of the head-mounted imaging unit mounted on the head is detected by the imaging direction detection unit, and the detected change in the imaging direction is detected in a predetermined number. In the case of reciprocal movement along a predetermined direction within one hour, switching of the image of the subject photographed by the photographing unit is limited. By restricting the switching of the subject image, the subject image is displayed as, for example, a frame drop or a substantially still image, or is not displayed, for example, to reduce the feeling of sickness such as video sickness. be able to.
また、他の一撮影装置では、上述の撮影装置において、好ましくは、前記往復移動は、前記撮影方向検出部で検出された前記撮影部の撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化することである。 In another imaging device, in the above-described imaging device, preferably, the reciprocating movement is performed by the imaging direction of the imaging unit detected by the imaging direction detection unit being different by about 180 degrees along the predetermined direction. Change in the direction more than once.
この構成によれば、撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に往復移動と判定する簡易な判定条件としているので、撮影方向検出部や映像表示制御部を比較的簡単な装置や処理で実現することが可能である。 According to this configuration, since the shooting direction is a simple determination condition for determining reciprocal movement when the shooting direction changes twice or more in a direction different by about 180 degrees along the predetermined direction, the shooting direction detection unit and the video display control are used. The unit can be realized by a relatively simple device and processing.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の第1時間は、0.3秒〜3秒であることである。 In another imaging apparatus, in the above-described imaging apparatus, the predetermined first time is preferably 0.3 seconds to 3 seconds.
一例では、頭部が0.3秒〜3秒程度の間に往復移動した場合に、その頭部に装着されたカメラによって撮影された映像を見た観察者は、映像酔い等の気分が悪くなりやすい。上記構成によれば、このような映像酔い等の気分の悪くなりやすい時間帯のうちのいずれかの時間に第1時間を設定しているので、このような事態を効果的に抑制または防止することが可能となる。 In one example, when the head moves back and forth between about 0.3 seconds and 3 seconds, an observer who sees an image taken by a camera attached to the head feels sick, such as motion sickness. Prone. According to the above configuration, since the first time is set at any time in the time zone in which the person is likely to feel sick such as video sickness, such a situation is effectively suppressed or prevented. It becomes possible.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記映像表示制御部は、所定の第2時間の間、前記被写体の映像におけるフレームを更新しないことによって、前記被写体の映像の切り換えを制限することである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the video display control unit does not update a frame in the video of the subject for a predetermined second time, so that the video of the subject is recorded. Is to limit the switching.
この構成によれば、被写体の映像におけるフレームを更新しないので被写体の映像が略静止画となり、被写体の映像におけるフレームを更新しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。 According to this configuration, since the frame in the subject video is not updated, the subject video becomes a substantially still image, and a relatively simple technique that does not update the frame in the subject video can cause a feeling of sickness such as video sickness. Can be reduced or prevented.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記映像表示制御部は、所定の第2時間の間、前記被写体の映像を表示しないことによって、前記被写体の映像の切り換えを制限することである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the video display control unit does not display the video of the subject for a predetermined second time, thereby switching the video of the subject. Is to limit.
この構成によれば、被写体の映像を表示しないので被写体の映像が消え、被写体の映像を表示しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。 According to this configuration, the subject image disappears because the subject image is not displayed, and it is possible to reduce or prevent the feeling of sickness such as image sickness by a relatively simple method of not displaying the subject image. .
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の第2時間は、前記第1時間よりも長く、かつ、1秒〜5秒であることである。 In another imaging apparatus, in the above-described imaging apparatus, the predetermined second time is preferably longer than the first time and 1 second to 5 seconds.
この構成によれば、第2時間中、前記被写体の映像の切り換えを制限することで、映像酔い等の気分の悪くなることを低減または防止することができるとともに、第2時間の経過後に、前記被写体の映像の切り換えの制限を解除し、元に復帰することができる。 According to this configuration, it is possible to reduce or prevent the feeling of sickness such as video sickness by limiting the switching of the image of the subject during the second time, and after the elapse of the second time, The restriction on the switching of the subject image can be canceled and the original can be restored.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の方向は、鉛直方向であることである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the predetermined direction is a vertical direction.
この構成によれば、装着者の頭部における鉛直方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者の歩行の場合や、装着者が肯定を頭部の鉛直方向における往復運動によって示す場合に対処することができる。 According to this configuration, it is possible to cope with a feeling of sickness such as video sickness due to the vertical reciprocation of the wearer's head. In particular, it can be dealt with when the wearer walks or when the wearer shows affirmation by the reciprocating motion of the head in the vertical direction.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記所定の方向は、水平方向であることである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the predetermined direction is a horizontal direction.
この構成によれば、装着者の頭部における水平方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者が否定を頭部の水平方向における往復運動によって示す場合に対処することができる。 According to this configuration, it is possible to cope with the feeling of sickness such as video sickness due to the horizontal reciprocation of the wearer's head. In particular, it is possible to deal with a case where the wearer shows a negative result by a reciprocating motion of the head in the horizontal direction.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、水平センサを備えることである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging direction detection unit includes a horizontal sensor.
この構成によれば、撮影方向の鉛直方向における往復移動を検出するために水平センサを用いるので、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出することができる。 According to this configuration, since the horizontal sensor is used to detect the reciprocal movement in the vertical direction of the photographing direction, the reciprocating movement along the vertical direction in the photographing direction can be detected at a low cost with a relatively simple structure. .
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、角速度センサを備えることである。 In another imaging apparatus, in the above-described imaging apparatus, it is preferable that the imaging direction detection unit includes an angular velocity sensor.
この構成によれば、撮影方向における所定の方向に沿った往復移動を検出するために角速度センサを用いるので、比較的コンパクトで正確に、撮影方向における所定の方向に沿った往復移動を検出することができる。 According to this configuration, since the angular velocity sensor is used to detect the reciprocating movement along the predetermined direction in the photographing direction, the reciprocating movement along the predetermined direction in the photographing direction can be detected relatively compactly and accurately. Can do.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記撮影方向検出部は、前記撮影部によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、前記撮影部の撮影方向を検出する対応点探索部を備えることである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging direction detection unit sets a corresponding point between two images of a subject image captured by the imaging unit as a corresponding point. It is provided with the corresponding point search part which detects the imaging | photography direction of the said imaging | photography part by extracting by a search process.
この構成によれば、対応点探索処理の画像処理で撮影方向の変化を検出するので、別途にセンサ部品を必要せず、センサレスでソフトウェアによって撮影方向検出部を構成することが可能となる。 According to this configuration, since the change in the shooting direction is detected by the image processing of the corresponding point search process, it is possible to configure the shooting direction detection unit by software without using a separate sensor component.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記頭部装着式撮影部の撮影部は、前記被写体の光学像を電気的な信号に変換する撮像素子と、前記撮像素子の受光面上に前記被写体の光学像を形成する光学系とを備え、前記撮像素子は、CMOS型イメージセンサであることである。 In another imaging apparatus, in the above-described imaging apparatus, preferably, the imaging unit of the head-mounted imaging unit includes an imaging element that converts an optical image of the subject into an electrical signal, and the imaging An optical system that forms an optical image of the subject on the light receiving surface of the element, and the imaging element is a CMOS image sensor.
CMOS型イメージセンサは、各画素の画像信号を順次に走査することによって得ている。このため、頭部が高速に移動したり揺れたりした場合では、映像が歪みやすく、これにより、映像酔い等の気分が悪くなることが、一層、発生しやすい。上記構成によれば、撮影部の撮影方向の変化が撮影方向検出部で検出され、その検出された撮影部の撮影方向の挙動に基づいて表示部に表示される被写体の映像の切り換えが制限されるので、撮影部の撮像素子がCMOS型イメージセンサであっても、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。 The CMOS image sensor is obtained by sequentially scanning the image signal of each pixel. For this reason, when the head moves or shakes at high speed, the image is easily distorted, and it is even more likely that the feeling of sickness such as image sickness is worsened. According to the above configuration, the change in the shooting direction of the shooting unit is detected by the shooting direction detection unit, and switching of the subject image displayed on the display unit is restricted based on the detected behavior of the shooting unit in the shooting direction. Therefore, even if the imaging element of the imaging unit is a CMOS image sensor, it is possible to reduce the feeling of sickness such as video sickness due to the video captured by the imaging unit.
また、他の一撮影装置では、これら上述の撮影装置において、好ましくは、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する表示部をさらに備えることである。 In another imaging apparatus, in the above-described imaging apparatus, it is preferable that the imaging apparatus further includes a display unit that displays a subject image captured by the imaging unit of the head-mounted imaging unit.
この構成によれば、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する表示部をさらに備えた撮影装置を提供することができる。 According to this configuration, it is possible to provide an imaging apparatus that further includes a display unit that displays an image of a subject captured by the imaging unit of the head-mounted imaging unit.
また、他の一態様では、上述の撮影装置において、好ましくは、前記表示部は、前記頭部装着式撮影部に備えられていることである。 In another aspect, in the above-described imaging device, preferably, the display unit is provided in the head-mounted imaging unit.
この構成によれば、撮影部の撮影方向が撮影方向検出部で検出され、その検出された撮影部の撮影方向に基づいて表示部に表示される被写体の映像の切り換えが制限されるので、表示部が頭部装着式撮影部に備えられている場合であっても、装着者は、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができ、その場で即座に撮影している領域を確認することができる。 According to this configuration, the shooting direction of the shooting unit is detected by the shooting direction detection unit, and switching of the image of the subject displayed on the display unit is limited based on the detected shooting direction of the shooting unit. Even when the head part is provided in the head-mounted imaging unit, the wearer can reduce the feeling of sickness due to video shot by this imaging unit, You can check the area where you are shooting immediately.
また、他の一態様では、これら上述の撮影装置において、好ましくは、音を音信号に変換する音入力部と、音信号を音に変換する音出力と、通信信号を送受信する通信部と、前記通信部の送受信を制御する通信制御部とをさらに備え、前記通信制御部は、前記音入力部によって変換された音信号を前記通信部に送信させるとともに、音を出力させるべく、前記通信部によって受信された音信号を前記音出力部へ出力することである。 In another aspect, in the above-described imaging devices, preferably, a sound input unit that converts sound into a sound signal, a sound output that converts sound signal into sound, a communication unit that transmits and receives communication signals, A communication control unit for controlling transmission / reception of the communication unit, wherein the communication control unit transmits the sound signal converted by the sound input unit to the communication unit and outputs the sound. Is output to the sound output unit.
この構成によれば、装着者は、例えば遠隔作業支援システム等の外部システムと、音声によってコミュニケーションを図ることができる。特に、コミュニケーションによって生じる装着者の動作に対処することができる。 According to this configuration, the wearer can communicate with an external system such as a remote work support system by voice. In particular, it is possible to cope with the wearer's movement caused by communication.
そして、本発明の他の一態様にかかる遠隔作業支援システムは、撮影装置と、通信網を介して前記撮影装置と通信可能に接続される遠隔作業支援装置とを備える遠隔作業支援システムであって、前記撮影装置は、これら上述のいずれかに記載の撮影装置であり、前記遠隔作業支援装置は、前記通信網を介して受信され、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する第2表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えることを特徴とする。 A remote operation support system according to another aspect of the present invention is a remote operation support system including an imaging device and a remote operation support device that is communicably connected to the imaging device via a communication network. The imaging device is any of the above-described imaging devices, and the remote work support device is a subject received by the imaging unit of the head-mounted imaging unit that is received via the communication network. A second display unit for displaying the video and an instruction receiving unit for receiving an instruction from the instructor and transmitting the instruction to the photographing apparatus via the communication network.
このような構成の遠隔作業支援システムは、これら上述のいずれかの撮影装置を備えるので、撮影装置のユーザ(装着者、作業者)の頭部が高速に移動したり揺れたりした場合でもあっても、映像の切り換えの制限によって、遠隔作業支援装置のユーザ(指示者)は、この撮影部によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。 Since the remote operation support system having such a configuration includes any of the above-described imaging devices, the user's head (wearer or operator) of the imaging device may move or shake at high speed. However, the restriction of the switching of the video can reduce the user (instructor) of the remote operation support apparatus from feeling sick due to the video captured by the imaging unit.
本発明にかかる撮影装置および遠隔作業支援システムは、頭部装着式のカメラにおいて、頭部が高速に移動したり揺れたりした場合でもあっても、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることを低減することができる。 The imaging apparatus and the remote operation support system according to the present invention are a head-mounted camera, and even if the head moves or shakes at high speed, the video captured by the camera causes video sickness and the like. It can be reduced that the patient feels bad.
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。 Hereinafter, an embodiment according to the present invention will be described with reference to the drawings. In addition, the structure which attached | subjected the same code | symbol in each figure shows that it is the same structure, The description is abbreviate | omitted suitably.
図1は、実施形態にかかる遠隔作業支援システムの構成を示す図である。図2は、実施形態にかかる遠隔作業支援システムにおける撮影装置の構成を示す外観斜視図である。図3は、実施形態にかかる遠隔作業支援システムの撮影装置における表示ユニットの側断面図である。図4は、実施形態にかかる遠隔作業支援システムにおける撮影装置の電気的な構成を示すブロック図である。 FIG. 1 is a diagram illustrating a configuration of a remote operation support system according to the embodiment. FIG. 2 is an external perspective view illustrating a configuration of the imaging device in the remote operation support system according to the embodiment. FIG. 3 is a side sectional view of the display unit in the photographing apparatus of the remote operation support system according to the embodiment. FIG. 4 is a block diagram illustrating an electrical configuration of the imaging apparatus in the remote operation support system according to the embodiment.
実施形態にかかる遠隔作業支援システムは、作業者における所定の方向の被写体を撮影し、この撮影した被写体の映像を前記作業者とは離れた別の場所に居る指示者が観察することができるように表示し、この被写体の映像を参照した前記指示者の指示を前記作業者に提供するシステムである。このような遠隔作業支援システムSは、例えば、図1ないし図4に示すように、作業者Wに使用され、作業者Wにおける所定の方向、例えば作業者Wの視線方向の例えば作業対象物等の被写体を撮影し、この撮影した被写体の映像を送信する撮影装置1と、ネットワーク(通信網)NTを介してこの撮影装置1によって撮影された被写体の映像を受信し、指示者Aが見ることができるようにこの受信した被写体の映像を表示し、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示を撮影装置1から出力させるべく、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信する遠隔支援装置5とを備えて構成されている。
The remote operation support system according to the embodiment images a subject in a predetermined direction of the worker so that an instructor in a different place away from the worker can observe the image of the photographed subject. The instruction of the instructor referring to the image of the subject is provided to the worker. Such a remote work support system S is used by a worker W as shown in FIGS. 1 to 4, for example, a work target in a predetermined direction of the worker W, for example, the line of sight of the worker W, etc. The instructor A receives the image of the subject photographed by the photographing device 1 via the network (communication network) NT, and the photographing device 1 that shoots the subject and transmits the image of the photographed subject. The received instruction is displayed so that the received image of the subject is displayed, the instruction of the instructor A referring to the image of the object is received, and the instruction of the received instruction A is output from the photographing apparatus 1. And a
遠隔支援装置5は、撮影装置1から離れた場所に設けられ、撮影装置1と互いにデータを交換することができるように、ネットワークNTを介して通信可能に撮影装置1と接続され、例えば、図1に示すように、メインサーバコンピュータ装置(以下、「メインサーバPC」と略記する。)6と、支援記録サーバコンピュータ装置(以下、「支援記録サーバPC」と略記する。)7と、コンテンツサーバコンピュータ装置(以下、「コンテンツサーバPC」と略記する。)8とを備えて構成される。
The
ネットワークNTは、例えば、電話網、ディジタル通信網および無線通信網等の通信網であり、所定の通信プロトコルを用いてデータが伝送される。本実施形態では、ネットワークNTは、例えば公衆電話網(固定電話網)、ISDN等のディジタル通信網および移動体電話網(携帯電話網)等の公衆ネットワークNTaと、例えばイーサネット(登録商標)等のローカル・エリア・ネットワーク(LAN;プライベートネットワーク)NTbとを備えて構成される。公衆ネットワークNTaは、例えば、通信プロトコルにFTP(File Transfer Protocol)やTCP/IP(Transmission Control Protocol/Internet Protocol)等のインターネットプロトコルが用いられてインターネットを構成し、プライベートネットワークNTbは、例えば、前記インターネットプロトコルが用いられてイントラネットを構成する。撮影装置1は、公衆ネットワークNTaと通信可能に接続され、遠隔支援装置5のメインサーバPC6、支援記録サーバPC7およびコンテンツサーバPC7の各サーバPCは、互いにデータを交換することができるように、プライベートネットワークNTbと通信可能に接続され、そして、公衆ネットワークNTaとプライベートネットワークNTbとは、通信可能に接続されている。
The network NT is, for example, a communication network such as a telephone network, a digital communication network, and a wireless communication network, and data is transmitted using a predetermined communication protocol. In the present embodiment, the network NT is a public network NTa such as a public telephone network (fixed telephone network), a digital communication network such as ISDN, and a mobile telephone network (cellular phone network), and an Ethernet (registered trademark), for example. And a local area network (LAN; private network) NTb. The public network NTa configures the Internet by using an Internet protocol such as FTP (File Transfer Protocol) or TCP / IP (Transmission Control Protocol / Internet Protocol) as a communication protocol, and the private network NTb is, for example, the Internet A protocol is used to construct an intranet. The photographing apparatus 1 is communicably connected to the public network NTa, and the
メインサーバPC6は、ネットワークNTを介して撮影装置1から受信した被写体の映像を表示するとともに、この被写体の映像を参照した指示者Aの指示を受け付け、この受け付けた指示者Aの指示をネットワークNTを介して撮影装置1へ送信するサーバコンピュータであり、例えば、メインサーバPC6の全体制御を司るコンピュータ161と、指示者Aの指示を受け付け、入力するための例えばキーボード162aやマウス162b等の入力装置162と、例えば映像を表示するディスプレイ163a等の出力装置163とを備えて構成される。
The
なお、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。 In the present specification, when referring generically, it is indicated by a reference symbol without a suffix, and when referring to an individual configuration, it is indicated by a reference symbol with a suffix.
このコンピュータ161は、ネットワークNT(プライベートネットワークNTb)と通信可能に接続するための、撮影装置1における後述のネットワークインタフェース部68と同様の通信インタフェース回路(ネットワークカード)を備えており、撮影装置1からネットワークNTを介して受信した被写体の映像をディスプレイ163aに表示するとともに、キーボード162aやマウス162bから受け付けた(入力された)指示者Aの指示をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における後述の表示ユニット40に表示される。
The
支援記録サーバPC7は、撮影装置1と遠隔支援装置5との間でやり取りされた支援データを記憶して記録し、クライアント装置の要求に従ってこの要求に対応する支援データをクライアント装置に提供するサーバコンピュータである。支援記憶サーバPC7は、コンピュータ161の制御に従って、あるいは、プライベートネットワークNTbを伝送する通信信号を監視(モニタ)することによって独自に、撮影映像装置1による被写体の映像を日付や時刻等の日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの指示を日付や時刻等の日時情報と対応付けて支援データとして記録する。このように支援記録サーバPC7は、遠隔作業支援システムSの履歴として支援データを保存し、記録する。
The support
そして、本実施形態の遠隔作業支援システムSは、映像だけでなく、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができるように構成されており、撮影装置1には、後述するように、音入出力ユニット50としてイヤホン51L、51Rとマイクロホン52とを備えており、メインサーバPC6には、入力装置162としてマイクロホン162cをさらに備え、出力装置163としてスピーカ163bをさらに備えている。そして、コンピュータ161は、撮影装置1からネットワークNTを介して受信した音声等の音(マイクロホン52で集音した音)をスピーカ163bから出力するとともに、マイクロホン162cから受け付けた(入力された)指示者Aの指示(音声指示)をネットワークNTを介して撮影装置1へ送信する制御を行う。この指示者Aの音声指示は、撮影装置1にネットワークNTを介して受信され、撮影装置1における前記イヤホン51L、51Rから出力される。また、支援記録サーバPC7は、コンピュータ161の制御に従って、あるいは、独自に、撮影装置1による前記音を日時情報と対応付けて支援データとして記録するとともに遠隔支援装置5による作業者Aの音声指示を日時情報と対応付けて支援データとして記録する。
The remote operation support system S of the present embodiment is configured so that not only video but also sound such as voice can be exchanged between the image capturing device 1 and the
そして、本実施形態における遠隔作業支援システムSでは、指示者Aの指示には、作業者Wが遠隔支援装置5へ直接入力した例えばテキストデータや音声指示等のデータだけでなく、例えば作業対象物を表す参照映像や、作業手順を示す作業マニュアルや、製品の取り扱い方を示す取り扱い説明書等の、作業者Wが作業を行う際にその作業の支援となる映像や音声等の支援コンテンツ(支援情報)も含まれる。コンテンツサーバPC8は、この支援コンテンツを格納し、クライアント装置の要求に従ってこの要求に対応する支援コンテンツをクライアント装置に提供するサーバコンピュータである。メインサーバPC6のコンピュータ161は、キーボード162aやマウス162bから指示者Aの支援コンテンツを選択する指示(コンテンツ選択指示)を受け付け、このコンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信するようにコンテンツサーバPC8を制御する。コンテンツサーバPC8は、コンピュータ161の制御に従って、コンテンツ選択指示に対応する支援コンテンツをネットワークNTを介して撮影装置1へ送信し、撮影装置1に支援コンテンツを提供する。
In the remote work support system S according to the present embodiment, the instruction from the instructor A includes not only data such as text data and voice instructions directly input to the
このような遠隔支援装置5と組み合わせて好適に使用される撮影装置1は、作業者Wの頭部に装着され、作業者W(装着者)の視線方向に略沿った被写体を撮影し、この撮影した被写体の映像をネットワークNTを介して遠隔支援装置5へ送信する頭部装着式の撮影装置(カメラ)であり、例えば、図2ないし図4に示すように、装着ユニット10と、撮影ユニット20と、角速度センサユニット30と、表示ユニット40と、音入出力ユニット50と、制御ユニット60とを備えて構成される。
An imaging device 1 that is preferably used in combination with such a
装着ユニット10は、作業者Wの頭部に装着するための装置であり、本実施形態では、視力矯正用のメガネを模した構造で構成されている。すなわち、本実施形態の装着ユニット10は、左右一対のテンプル11L、11Rと、ブリッジ12と、左右一対の鼻パッド13L、13Rと、左右一対の透明部材14L、14Rとを備えて構成されている。
The mounting
テンプル11L、11Rは、例えば弾性素材等から構成される長尺棒状の部材であり、その一方端部には装着者(ここでは作業者W)の耳に掛けられる耳掛け部分を有し、その他方端部には回動部11La、11Raを介して透明部材14L、14Rに固定されて保持する保持部分を有しており、作業者Wの耳や側頭部に掛け止められ、作業者Wの頭部への保持および装着位置を調整するためのものである。テンプル11L、11Rと透明部材14L、14Rとの固定には、例えば接着剤による接着やねじによるねじ留め等の固定手段が用いられる。また、撮影装置1は、回動部11La、11Raによる回動により、テンプル11L、11Rを互いに回転方向の異なる矢印P、Q方向へ回動させて、テンプル11L、11Rを透明部材14L、14Rに沿わせることによって、不使用時にコンパクトに折り畳めるようになっている。
The
ブリッジ12は、左右一対の透明部材14L、14Rを互いに連結するための短尺棒状の部材であり、テンプル11L、11Rの固定手段と同様の手段によって、その両端で透明部材14L、14Rに固定される。左右一対の透明部材14L、14Rは、このブリッジ12によって一定の間隔を空けた相対位置関係で保持される。
The
鼻パッド13L、13Rは、装着ユニット10の装着者(ここでは作業者W)に対する顔面への保持を行うための部材であり、各脚部を介してブリッジ12に接続されている。
The nose pads 13 </ b> L and 13 </ b> R are members for holding the mounting
透明部材14L、14Rは、例えばポリカーボネートやポリメチルメタクリレート等の樹脂やガラス等の可視光線に対し透明な素材等から構成され、視力矯正用のメガネレンズの外形形状のような、角を丸く縁取りした長方形状の板状部材である。もちろん、透明部材14L、14Rは、撮影装置1の本来の機能の観点において視力矯正用の調整度数を備える必要はないが、視力矯正用の調整度数を備えていても良い。透明部材14L、14Rの一方には、本実施形態では、右眼に対応する透明部材14Rに表示ユニット40の接眼光学系41を嵌め込むための略U字形状の切り欠き部14Rsが形成されている。
The
これらテンプル11L、11R、ブリッジ12および鼻パッド13L、13Rによっていわゆるメガネフレームが構成され、このメガネフレームが装着者に対し掛け止められ、透明部材14L、14Rが装着者の眼に対し所定の状態(所定の距離、所定の位置)で装着される。
These
なお、本実施形態では、装着ユニット10は、テンプル11L、11Rおよびブリッジ12によって透明部材14L、14Rを固定、保持するように構成されたが、左右一対のリムを備え、この各リムを介して透明部材14L、14Rを固定、保持するように構成されてもよい。この各リムは、例えば内溝を持った環状または半環状の部材であり、この環または半環に透明部材14L、14Rの外周部分を嵌め込むことによって透明部材14L、14Rを固定、保持するものである。
In the present embodiment, the mounting
撮影ユニット20は、例えば作業物体や装着者(ここでは作業者W)の周囲の外界情景等の被写体を撮影する装置であり、装着者(作業者W)に装着され前記装着者が前方略水平方向を見た場合に、その光軸が装着者の視線方向に略一致するように、装着ユニット10に対し固定的に保持される。これによって撮影ユニット20は、装着者の前方視野内を撮影することが可能となる。本実施形態では、撮影ユニット20は、表示ユニット本体45の一方端部に外付けされており、表示ユニット本体45が接眼光学系41を介して装着ユニット10の透明部材14Rに固定的に取り付けられることによって、装着ユニット10に対し固定的に保持される。このように撮影ユニット20は、本実施形態では、装着者(ここでは作業者W)の視野内撮影カメラとして機能し、また装着ユニット10に保持されるので、撮影装置1がコンパクトに構成され、また作業者Wは、ハンズフリーとなって、両手を使った作業が可能となる。なお、撮影ユニット20を装着ユニット10に前記光軸と前記視線方向に略一致するように固定的に保持する機構は、撮影ユニット20が脱着可能な構造であってもよい。このように構成することによって撮影ユニット20を適宜に変えることができる。
The photographing
撮影ユニット20は、例えば、図4に示すように、撮影光学系21と、撮像素子22と、アナログフロントエンド23と、映像制御部24とを備えて構成される。
For example, as illustrated in FIG. 4, the photographing
撮影光学系21は、被写体の光学像(光像)を撮像素子22の受光面に結像するための光学系である。撮影光学系21は、単焦点光学系であってもよく、またズーミングすべくズーム機能を備えた変倍光学系であってもよい。また撮影光学系21は、オートフォーカス(AF)機能を備えて構成されてよい。
The photographing
撮像素子22は、この撮影光学系21によって受光面上に形成された被写体の光学像における光量に応じてR(赤)、G(緑)、B(青)の各成分の画像信号に光電変換してアナログフロントエンド23へ出力する装置である。撮像素子22には、例えば、CCD型カラーイメージセンサやCMOS型カラーイメージセンサ等が用いられる。本実施形態では、CMOS型カラーイメージセンサが用いられ、このCMOS型カラーイメージセンサは、例えば、R(赤)光、G(緑)光、B(青)光の各光に対応した各色透過フィルタをピクセル単位(画素単位)で市松模様に配置されたカラーエリア撮影センサであって、撮影光学系21により結像された被写体光像を、R(赤)光、G(緑)光、B(青)光の各成分の画像信号(各画素単位で受光された画素信号の信号列から成る信号)に光電変換するものである。CMOS型イメージセンサは、2次元配列された複数の画素から所定の順序に従って順番に各画素信号を読み出すように構成される。より具体的には、例えば、m行n列の画素でCMOS型イメージセンサが構成されている場合に、1行1列の画素から1行n列まで各列の画素信号が行方向に沿って順次に読み出され、1行n列まで読み出すと、次行の画像信号を読み出すべく次行の1列目に戻り、同様に、次行の1列からn列まで各列の画素信号が行方向に沿って順次に読み出され、そして、このような画素信号の読み出しがm行n列まで実行される。このため、CMOS型イメージセンサでは、最初の画素の読み出し時刻と、最後の画素の読み出し時刻とには、所定時間の差が生じている。
The
アナログフロントエンド23は、所定の基準クロックに基づいて撮像素子22の駆動を制御し、撮像素子22で得られた画像信号に周知のアナログ信号処理を施した後にディジタル映像信号に変換し、映像制御部24へ出力する回路である。
The analog
映像制御部24は、アナログフロントエンド23から入力された映像信号に、例えば黒レベル補正処理、画素補間処理、ホワイトバランス調整処理、ガンマ(γ)補正処理、シェーディング補正処理等の、周知の画像処理を施す回路である。映像制御部24は、アナログフロントエンド23から入力された映像信号を、CMOS型カラーイメージセンサにおける画像信号の読み出しクロックに同期して、制御ユニット60内の画像メモリ61に書き込む。すなわち、映像信号は、アナログフロントエンド23から一旦画像メモリ61に書き込まれ、所定の各画像処理が施される際に、画像メモリ61から映像制御部24に読み込まれ、各画像処理が施される。そして、これら各画像処理の施された映像信号は、再度、画像メモリ61に書き込まれ、記憶(格納)される。
The
角速度センサユニット30は、装着ユニット10に対し固定的に保持されている撮影ユニット20の撮影方向を検出するために、装着者(ここでは作業者W)の頭部の角速度を検出し、検出結果を制御ユニット60へ出力する装置である。角速度センサユニット30は、本実施形態では、例えば、装着者(作業者W)の頭部における鉛直方向の角速度を検出する回路である鉛直方向角速度センサ部31と、装着者(作業者W)の頭部における水平方向の角速度を検出する回路である水平方向角速度センサ部32とを備えて構成される。より具体的には、角速度センサユニット30は、2軸の角速度を検出することができる2軸圧電振動ジャイロセンサを備えて構成され、装着ユニット10に固定的に取り付けられる表示ユニット本体45内に内蔵されている。ここで、角速度センサユニット30で検出された角速度を積分することによって頭部の方向を算出することも可能である。このように本実施形態では、撮影方向における所定の方向に沿った往復移動を検出するためのセンサとして、加速度センサが用いられているので、比較的コンパクトで正確に、撮影方向における所定の方向に沿った往復移動を検出するためのセンサを構成することが可能となる。
The angular
表示ユニット40は、所定の画像(映像)を表示する装置であり、遠隔支援装置5からネットワークNTを介して送信されてきた指示者Aの指示を表示するものである。前記指示者Aの指示には、上述したように、指示者Aが遠隔支援装置5へ直接入力した例えばテキストデータ等のデータだけでなく、作業者Wが作業を行う際にその作業の支援となる映像や音声等のコンテンツサーバPC8による支援コンテンツも含まれる。そして、本実施形態では、表示ユニット40は、撮影ユニット20の電子ファインダの機能を兼ねており、撮影ユニット20によって撮影された映像も表示することができるようにされている。撮影ユニット20によって撮影された被写体の映像が別体の表示装置に表示される場合には、作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために前記表示装置の方に向かなければならないが、これによって撮影ユニット20の撮影者である作業者Wは、撮影ユニット20によって撮影されている領域(被写体)を見るために、その頭部の方向を変える必要がなく、視線をそらせる必要もなく、作業者W自信が撮影ユニット20によって撮影している領域(被写体)を正確に認識することができる。
The
表示ユニット40は、装着ユニット10に取り付けられることなく別体で構成されてもよいが、作業者Wの視界内に指示者Aの指示を表示し、作業者Wが指示者Aの指示を参照しながら作業を行うことができるように、本実施形態では、装着ユニット10に、しかも一方の透明部材14Rに取り付けられている。このような表示ユニット40は、例えば、図2ないし図4に示すように、接眼光学系41と、映像生成部42と、照明光学系43と、光源部44と、これら映像生成部42、照明光学系43および光源部44を収容するとともに接眼光学系41に取り付けられる筐体である表示ユニット本体45とを備えて構成される。表示ユニット本体45には、上述したように、その一方端に撮影ユニット20が外付けされており、角速度センサユニット30が内蔵され、そして、底面から外部に接眼光学系41が延びている。さらに、表示ユニット本体45の他方端から、ケーブル46が延び、撮影ユニット20、角速度センサユニット30、表示ユニット40および音入出力ユニット50と制御ユニット60とは、相互にデータを交換することができるようにこのケーブル46によって電気的に接続されている。
The
光源部44は、所定波長の光を発光する装置であり、例えば、所定波長色を含む白色発光ダイオード(以下、「白色LED」と略記する)から成る点光源である。
The
照明光学系43は、光源部44の発光光が入射され、この入射された発光光から映像生成部42を照明する照明光を生成する装置であり、例えば、本実施形態では、方向により拡散度が異なり、前記入射された発光光を一方向に拡散する一方向拡散板43aと、一方向拡散板43aで拡散された光を集光する集光レンズ43bとを備えて構成される。より具体的には、例えば、本実施形態では、一方向拡散板43aは、光源部44から入射された発光光を図3の紙面に垂直な方向に約40度で拡散するとともに図3の紙面に平行な方向に約0.2度で拡散する。
The illumination
映像生成部42は、照明光学系43の照明光が入射され、各画素において、この照明光をRGBごとにVRAM64の映像信号に応じて強度変調することによって映像を生成する装置であり、例えば、透過型LCD装置(透過型液晶表示装置)を備えて構成される。
The
接眼光学系41は、映像生成部42で生成された映像を装着者(作業者W)の眼に導くための装置であり、例えば、光学プリズム41aと、反射部41bとを備えて構成される。
The eyepiece
光学プリズム41aは、例えばガラスや透明樹脂等の可視光に対して透明な材料より成る部材であって、互いに対向する一対の主面が略平行となるように形成された平行平板である。光学プリズム41aの上端部(上面部)は、上面が映像生成部42で生成された映像光の入射面であり、映像光の大部分を内部に採光することができるように、肉厚部411が形成されている。この肉厚部411は、上方に向かってより肉厚となるように前面側(接眼面と反対側)が突き出るくさび形状に形成される。そして、光学プリズム41aの下端部(底面部)は、斜めにカットされた傾斜部412が形成されており、この傾斜部412に反射部41bが設けられている。光学プリズム41aは、その上端部から入射された映像光をその内部で複数回の反射を行わせ、前記映像光を反射部41bへ導光する。より具体的には、光学プリズム41aは、その上端部から入射された映像光を前記一対の主面で交互に全反射を繰り返し、前記映像光を反射部41bへ導光する。
The
反射部41bは、光学プリズム41aによって導光された映像光を、光学プリズム41aの傾斜部412と協働して後面側(接眼面側)へ反射する光学素子であり、例えば、ハーフミラー、多層膜およびホログラム光学素子等である。本実施形態では、反射部41bは、ホログラムを生成するホログラム光学素子(HOE)であり、例えば、波長選択性および角度選択性がともに比較的高いことから、体積位相型の反射型ホログラム光学素子である。体積位相型のホログラム光学素子は、光学的に軸非対称ないわゆる自由曲面で構成されて正の光学的パワーを有する。この反射型ホログラム光学素子は、所定波長の映像光を回折するように構成されており、前記光源部44は、この反射型ホログラム光学素子の回折波長に応じた所定波長の光を発光するように構成される。より具体的には、本実施形態では、反射型ホログラム光学素子は、RGB(赤緑青)に対応した各波長465nm±10nm、520nm±10nmおよび635nm±10nmの映像光を回折するように製作され、これに応じて、光源部44は、中心波長465nm、520nmおよび635nmのRGB一体型の白色LEDを備えて構成される。この反射型ホログラム光学素子の感光材料として、例えば、フォトポリマ、銀塩材料、重クロム酸ゼラチン等を挙げることができ、特に、ドライプロセスで製造することができることから、フォトポリマが好ましい。
The
そして、前記透明部材14Rの切り欠き部14Rsは、光学プリズム41aが隙間無く嵌め込まれるように、光学プリズム41aの形状に対応した形状とされており、透明部材14Rの切り欠き部14Rsに接眼光学系41が嵌め込まれた場合に、透明部材14Rと接眼光学系41とは1枚の板状に一体化され、傾斜部412に設けられた反射部41bは、光学プリズム41aと透明部材14Rとに挟まれて埋設する。このように透明部材14Rと光学プリズム41aとは、反射部41bを2つの透明材料に埋設した接合光学プリズムを構成している。このため、反射部41bが外気に触れることが無く、反射部41bがホログラム光学素子である場合に、ホログラムを安定にその性能を保つことが可能となる。
The cutout portion 14Rs of the
光学プリズム41aによって導光された映像光は、反射部41bで反射し、より具体的には、本実施形態では、反射型ホログラム光学素子によって回折され、虚像として光学瞳Eに導かれる。装着者(作業者W)は、この光学瞳Eの映像光をその瞳に入射することで、映像を見ることができる。このように表示ユニット40では、VRAM64の映像信号による映像が映像生成部42の透過型LCD装置に表示され、この映像生成部42の透過型LCD装置によって得られた映像が、接眼光学系41によって装着者(作業者W)の眼球に直接投影され、あたかも該映像が空中に拡大投影されているかのような虚像の観察が可能になっている。
The image light guided by the
また、透明部材14Rは、光学プリズム41aの傾斜部412での屈折をキャンセル(相殺)するので、装着者(作業者W)は、外界光を略歪むことなく見ることができる。また、体積位相型の反射型ホログラム光学素子は、上述のように、特定入射角の特定波長の光のみを回折するので、外界光にはほとんど影響せず、外界光は、透明部材14R、反射部41bの反射型ホログラム光学素子および光学プリズム41aを透過し、装着者(作業者W)は、略通常通り、外界を見ることができる。このように体積位相型の反射型ホログラム光学素子は、特定波長域の反射光とそれ以外の波長域の透過光とを合成するコンバイナ光学素子として機能している。このような構成によって表示ユニット40における外界光の可視光透過率を約85%以上に確保することが可能となり、外界光の透過率が高く、装着者(作業者W)がシースルーで外界を良好に見ることができ、装着者(作業者W)の作業性を向上することが可能となる。そして、本実施形態では、接眼光学系41は、右眼に対応する透明部材14Rに配設され、表示ユニット40に表示される映像を右眼で観察することができると同時に外界を右眼でも観察することができる(もちろん、左眼は、外界を観察することができる)。
Further, since the
また、接眼光学系41は、本実施形態では、映像光を光学プリズム41aの内部で反射するとともに反射部41bの体積位相型の反射型ホログラム光学素子によって光学瞳Eに導くように構成されているので、透明部材14Rの厚みは、通常のメガネレンズと略同程度の厚み(例えば3mm程度)とすることができ、小型で軽量となる。そして、前記反射は、本実施形態では、全反射であるので、装着者(作業者W)は、透明部材14Rの一対の両主面を通して外界光の透過率を略落とすことなく、外界を見ることができる。
In the present embodiment, the eyepiece
音入出力ユニット50は、音を入出力するための回路であり、音を出力する左右一対のイヤホン51L、51Rと、音を集音するマイクロホン52とを備えて構成される。マイクロホン52は、装着ユニット10を作業者Wが装着した場合に、作業者Wの音声を集音すべく、装着ユニット10のテンプル11Lから延びる略L字状のアーム53の先端に取り付けられている。この音入力ユニット50のマイクロホン52によって作業者Wの音声が集音され、この音声の音声データが撮影装置1からネットワークNTを介して遠隔支援装置5へ送信され、遠隔支援装置5のメインサーバPC6におけるスピーカ163bからこの音声データの音声が出力される。一方、この遠隔支援装置5のメインサーバPC6におけるマイクロホン162cによって指示者Aの音声が集音され、この音声の音声データが遠隔支援装置5からネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声データの音声が出力される。あるいは、コンテンツサーバPC8から音声の支援コンテンツがネットワークNTを介して撮影装置1へ送信され、撮影装置1のイヤホン51L、51Rからこの音声の支援コンテンツが出力される。なお、撮影装置1のイヤホン51L、51Rは、一方のみであっても良い。これによって本実施形態の遠隔作業支援システムSは、音声指示を作業者Wに与えることができ、また、例えば音声等の音も撮影装置1と遠隔支援装置5との間で互いに交換することができ、作業者Wと指示者Aとは、音声によってコミュニケーションを図ることができる。特に、音声によるコミュニケーションを図ると、指示者Aの音声指示により、作業者W(装着者)は、頷き動作を行い易いが、このような場合に本実施形態の遠隔作業支援システムSでは後述のように映像の切り換えを制限して映像での観察に制限を施すので、このような場合に本実施形態の遠隔作業支援システムSは、効果的である。
The sound input /
制御ユニット60は、撮影装置1の全体制御を司る回路である。制御ユニット60は、撮影ユニット20、角速度センサユニット30および表示ユニット40のように装着ユニット10に取り付けられても良いが、撮影装置1における作業者Wの頭部に装着される部分の重量を軽減するために、本実施形態では、装着ユニット10に取り付けられることなく装着ユニット10とは別体に設けられており、上述したように、ケーブル46によって撮影ユニット20、角速度センサユニット30、表示ユニット40および音入出力ユニット50と電気的に接続されている。制御ユニット60は、例えば、図1、図2および図4に示すように、画像メモリ61と、制御部62と、VRAM64と、音入力処理部65と、音出力処理部66と、電源スイッチ67と、ネットワークIF部68とを備えて構成され、これら画像メモリ61、制御部62、VRAM64、音入力処理部65、音出力処理部66、電源スイッチ67およびネットワークIF部68は、略直方体形状の筐体69に収容されている。なお、電源スイッチ67は、その操作部分が筐体69の外部に臨むように筐体69内に配設され、ネットワークIF部68は、そのコネクタ部分が筐体69の外部に臨むように筐体69内に配設される。
The
画像メモリ61は、例えば、RAM(Random Access Memory)等の揮発性の記憶素子およびその周辺回路を備えて構成され、上述したように、撮影ユニット20における映像制御部24の作業領域として用いられる。
The
VRAM64は、RAMおよびその周辺回路を備えて構成される、いわゆるビデオラム(Video RAM)であり、表示ユニット40における映像生成部42の画素数に対応した映像信号の記憶容量を少なくとも有し、映像生成部42で再生表示される映像を構成する映像信号をバッファするためのバッファメモリである。
The
音入力処理部65は、音入出力ユニット50におけるマイクロホン52から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って制御部62へ出力する回路である。
The sound
音出力処理部66は、制御部62から入力されてきた音信号に対し、例えば、増幅やノイズカット等の所定の信号処理を行って音入出力ユニット50におけるイヤホン51L、51Rへ出力する回路である。
The sound
電源スイッチ67は、撮影装置1を稼動するために、撮影装置1を起動するスイッチ回路である。電源スイッチ67の投入(スイッチオン)により、例えば電池等の電源から、撮影装置1における電力を必要とする各部へ電力が供給される。
The
ネットワークIF部68は、ネットワークNTを介して撮影装置1と遠隔支援装置5との間で通信を行うための通信インタフェース回路であり、制御部62から入力されてきたデータをネットワークNTの通信プロトコルに対応した通信信号に収容し、この収容した通信信号をネットワークNTへ送信するとともに、ネットワークNTから撮影装置1宛ての通信信号を受信し、この受信した通信信号に収容されているデータを取り出して制御部62で処理可能な形式に変換し、この変換したデータを制御部62へ出力するものである。
The network IF
制御部62は、撮影装置1の各部を当該機能に応じて制御する回路であり、例えば、撮影装置1の各部を当該機能に応じて制御するための制御プログラム等の各種の所定のプログラムや前記所定のプログラムの実行に必要なデータ等の各種の所定のデータ等を記憶する、不揮発性の記憶素子であるROM(Read Only Memory)、前記所定のプログラムを読み出して実行することによって所定の演算処理や制御処理を行うCPU(Central Processing Unit)、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる前記CPUのワーキングメモリとなるRAM、および、これらの周辺回路を備えたマイクロコンピュータ等によって構成される。なお、この制御部62は、例えば、EEPROM(Electrically Erasable Programmable Read Only Memory)等の書き換え可能な不揮発性の記憶素子を備えても良い。制御部62は、機能的に、映像表示制御部63を備えている。
The
映像表示制御部63は、撮影ユニット20によって撮影された被写体の映像を表示する場合に、本実施形態では、角速度センサユニット30で検出された撮影ユニット20の撮影方向の変化が所定の第1時間内において所定の方向に沿う往復移動の場合に、撮影ユニット20によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限するものであり、例えば、機能的に、撮影方向判定部631と、観察制限制御部632とを備えて構成される。映像表示制御部63は、撮影ユニット20によって撮影された被写体の映像を表示ユニット40に表示する場合には、表示ユニット40に表示すべき映像を制御し、また、撮影ユニット20によって撮影された被写体の映像を遠隔支援装置5に出力する場合には、遠隔支援装置5宛てに送信する通信信号に収容される映像を制御するものである。
In the present embodiment, when the video
撮影方向判定部631は、角速度センサユニット30で検出された作業者W(装着者)の頭部の角速度に基づいて撮影ユニット20の撮影方向を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に所定の方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものである。
The photographing
観察制限制御部632は、撮影方向判定部631から通知された判定結果に応じて撮影ユニット20で生成される映像の切り換えを制限するものである。なお、制御部62は、この切り換えを制限した被写体の映像をネットワークIF部68からネットワークNTを介して遠隔支援装置5へ送信する。
The observation
より具体的には、例えば、撮影方向判定部631は、角速度センサユニット30で検出された作業者Wの頭部の角速度に基づいて検出された撮影方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであり、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、角速度センサユニット30で検出された作業者Wの頭部の角速度に基づいて検出された撮影方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に、撮影ユニット20で生成される映像の切り換えを制限するものである。例えば、本実施形態では、観察制限制御部632は、被写体の映像におけるフレームを予め設定された所定のフレームに制限することで、撮影ユニット20で生成される映像の切り換えを制限する。前記判定における、撮影方向が前記所定の方向に沿って略180度異なる方向へ変化する回数は、頭部が高速に移動したり揺れたりした場合に頭部に装着されるカメラによって撮影された映像を観察者が見た場合に観察者が気分を悪くするか否かの観点から例えば統計等によって決定される回数であり、例えば、本実施形態では、2回である。このように撮影方向が前記所定の方向に沿って略180度異なる方向へ2回以上変化した場合に所定の方向に沿った往復移動があったと判定する簡易な判定条件としているので、角速度センサユニット30や映像表示制御部63等のこのための装置を比較的簡単な装置や処理で実現することが可能である。
More specifically, for example, the imaging
前記所定の第1時間(判定時間A)は、予め設定され、例えば、頭部が高速に移動したり揺れたりした場合に頭部に装着されるカメラによって撮影された映像を観察者が見た場合に観察者が気分を悪くするか否かの観点から例えば統計等によって決定される時間長である。一例では、頭部が約0.3秒〜3秒程度の間に往復移動した場合に、その頭部に装着されたカメラによって撮影された映像を見た観察者は、映像酔い等の気分が悪くなりやすい。約0.3秒を下回ると、前記観察者は、いわゆる手ぶれのような単なるブレと意識され、一方、約3秒を上回ると、前記観察者は、往復移動のサイクルが充分に長いので、映像酔い等の気分が悪くなりにくい。このため、前記所定の第1時間は、例えば、約0.3秒〜3秒のうちのいずれかの時間長に設定される。このような映像酔い等の気分の悪くなりやすい時間帯のうちのいずれかの時間に第1時間を設定しているので、このような事態を効果的に抑制または防止することが可能となる。 The predetermined first time (determination time A) is set in advance. For example, when the head moves or shakes at high speed, the viewer views an image taken by a camera attached to the head. In this case, the time length is determined by, for example, statistics from the viewpoint of whether or not the observer feels bad. In one example, when the head moves back and forth between about 0.3 seconds and about 3 seconds, an observer who sees an image taken by a camera attached to the head feels sick like video sickness. It tends to get worse. When the time is less than about 0.3 seconds, the observer is perceived as a mere blur such as a so-called camera shake. On the other hand, when the time is longer than about 3 seconds, the observer has a sufficiently long reciprocation cycle. Difficult to get sick like sickness. For this reason, the predetermined first time is set to a time length of, for example, about 0.3 seconds to 3 seconds. Since the first time is set at any time in the time zone in which such mood sickness such as video sickness tends to get worse, it is possible to effectively suppress or prevent such a situation.
観察制限制御部632による映像の切り換えの制限は、例えば、所定の第2時間の間、被写体の映像におけるフレームを更新しないことによって行われてよい。より具体的には、例えば、本実施形態では、観察制限制御部632は、前記第2時間の間、VRAM64の各データを更新せず、前記第2時間の開始時刻における被写体の映像におけるフレームの各データ値をそのまま維持するように、VRAM64を制御する。したがって、前記第2時間の開始時刻における被写体の映像におけるフレームがそのまま維持され、静止画のように表示ユニット40や遠隔支援装置5のディスプレイ163aに表示される。このように被写体の映像におけるフレームを更新しないので被写体の映像が、第2時間中、略静止画となり、被写体の映像におけるフレームを更新しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。
For example, the switching of the video by the observation
また例えば、観察制限制御部632による映像の切り換えの制限は、所定の第2時間の間、被写体の映像を表示しないことによって行われてよい。より具体的には、例えば、本実施形態では、観察制限制御部632は、前記第2時間の間、VRAM64の各データを予め設定された所定レベルのデータ値に書き換えるように、VRAM64を制御する。すなわち、第2時間中、表示ユニット40や遠隔支援装置5のディスプレイ163aには、例えば黒や白等の単色表示で、被写体が何も表示されない。このように被写体の映像を表示せずに被写体の映像を消し、被写体の映像を表示しないという比較的簡易な手法によって、映像酔い等の気分の悪くなることを低減または防止することができる。
Further, for example, the switching of the video by the observation
また例えば、観察制限制御部632による映像の切り換えの制限は、被写体の映像の信号を遠隔支援装置5に送信しないことや、被写体の映像の信号を表示ユニット40に出力しないことや、被写体の映像の信号をVRAM64に記録しないこと等であっても良い。
Further, for example, the switching of the video by the observation
前記所定の第2時間(観察制限時間B)は、予め設定され、例えば、映像酔い等の気分の悪くなることがないように、前記所定の第1時間(判定時間A)を超えるように決定される時間長であり、前記継続時間は、例えば統計等によって決定される。例えば、前記所定の第2時間は、前記第1時間よりも長く、かつ、1秒〜5秒のうちのいずれかの時間長に設定される。このように、第2時間中、被写体の映像の切り換えを制限することで、映像酔い等の気分の悪くなることを低減または防止することができるとともに、前記被写体の映像の切り換えを制限する第2時間を設けるので、第2時間の経過後に、被写体の映像の切り換えの制限を解除し、元に復帰することができる。前記所定の第2時間が1秒を下回ると、映像酔い等の気分の悪くなることを低減または防止することが難しく、好ましくない。一方、前記所定の第2時間が5秒を上回ると、表示ユニット40に表示される映像や遠隔支援装置5に表示される映像の即時性が損なわれ、指示者Aに作業者Wの映像が略リアルタイムに提供されなくなり、適切な指示を与えることが難しくなるので、好ましくない。
The predetermined second time (observation limit time B) is set in advance and is determined to exceed the predetermined first time (determination time A) so as not to make the patient feel sick, for example, video sickness. The duration is determined by, for example, statistics. For example, the predetermined second time is longer than the first time and is set to any time length from 1 second to 5 seconds. As described above, by restricting the switching of the subject image during the second time, it is possible to reduce or prevent the feeling of sickness such as image sickness and to limit the switching of the subject image. Since the time is provided, it is possible to release the restriction on switching of the image of the subject and return to the original state after the second time has elapsed. If the predetermined second time is less than 1 second, it is difficult and undesirable to reduce or prevent the feeling of sickness such as video sickness. On the other hand, when the predetermined second time exceeds 5 seconds, the immediacy of the video displayed on the
また例えば、前記所定の方向は、鉛直方向であってよく、撮影方向判定部631は、鉛直方向角速度センサユニット31で検出された作業者W(装着者)の頭部における鉛直方向の角速度に基づいて撮影ユニット20の鉛直面内における撮影方向(鉛直方向での上方方向(+方向)または下方方向(−方向))を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであって、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合に、前記被写体の映像の切り換えを制限するものである。このように構成することによって、装着者の頭部における鉛直方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者の歩行の場合や、装着者が肯定を頭部の鉛直方向における往復運動によって示す場合に対処することができる。
Further, for example, the predetermined direction may be a vertical direction, and the imaging
なお、鉛直方向角速度センサ部31は、本実施形態では、2軸圧電振動ジャイロセンサのうちの1軸を利用することで構成されたが、水平センサを備えて構成されてもよい。このように撮影方向の鉛直方向における往復移動を検出するためにセンサとして水平センサを用いることで、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出することができる。
In the present embodiment, the vertical angular
また例えば、前記所定の方向は、水平方向であってよく、撮影方向判定部631は、水平方向角速度センサユニット32で検出された作業者W(装着者)の頭部における水平方向の角速度に基づいて撮影ユニット20の水平面内における撮影方向(水平方向での右方向(+方向)または左方向(−方向))を検出し、この検出された撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動したか否かを判定し、その判定結果を観察制限制御部632へ通知するものであって、観察制限制御部632は、撮影ユニット20によって撮影された被写体の映像を表示する場合において、前記判定結果に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合に、前記被写体の映像の切り換えを制限するものである。このように構成することによって、装着者の頭部における水平方向の往復移動による映像酔い等の気分の悪くなることに対処することができる。特に、装着者が否定を頭部の水平方向における往復運動によって示す場合に対処することができる。
Further, for example, the predetermined direction may be a horizontal direction, and the photographing
本実施形態では、撮影装置1の装着ユニット10、撮影ユニット20、角速度センサユニット30および制御ユニット60における映像表示制御部63が、それぞれ、請求項の装着部、撮影部、撮影方向検出部および映像表示制御部の一例に相当し、そして、遠隔支援装置5のディスプレイ163aが表示部および第2表示部の一例に相当する。そして、撮影装置1の表示ユニット40が撮影ユニット20の電子ファインダとして機能していることから、本実施形態では、撮影装置1の表示ユニット40も表示部の一例に相当している。
In the present embodiment, the image
次に、本実施形態の動作について説明する。図5は、本実施形態の遠隔作業支援システムにおける撮影装置の動作を示すフローチャートである。図6は、撮影方向の往復移動が第1態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。図7は、撮影方向の往復移動が第2態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。図8は、撮影方向の往復移動が第3態様である場合における、本実施形態の遠隔作業支援システムにおける撮影装置の動作を説明するためのタイムチャートである。これら図6(A)、図7(A)および図8(A)は、撮影方向を示し、図6(B)、図7(B)および図8(B)は、遠隔支援装置5のディスプレイ163aや表示ユニット40に表示される表示映像の態様を示す。また、図6(A)、図7(A)および図8(A)における各矢印は、各サンプリング時刻における撮影ユニット20の各撮影方向の変化方向(移動方向)を示し、(+)は、前記所定の方向に沿った一方方向を示し、(−)は、(+)方向の180度異なる他方方向を示す。
Next, the operation of this embodiment will be described. FIG. 5 is a flowchart showing the operation of the photographing apparatus in the remote operation support system of this embodiment. FIG. 6 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the first mode. FIG. 7 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the second mode. FIG. 8 is a time chart for explaining the operation of the photographing apparatus in the remote operation support system of the present embodiment when the reciprocating movement in the photographing direction is the third aspect. 6A, 7A, and 8A show the photographing direction, and FIGS. 6B, 7B, and 8B show the display of the
本実施形態の遠隔作業支援システムSにおける撮影装置1は、被写体の映像の切り換えを制限する制御に関し、図5に示すように動作している。すなわち、図5において、ステップS11では、撮影ユニット20の撮影方向の変化方向(移動方向)を検出すべく、角速度センサユニット30によって作業者W(装着者)の頭部の角速度が検出され、この検出結果が制御ユニット60へ出力され、制御ユニット60で記憶される。
The photographing apparatus 1 in the remote operation support system S of the present embodiment operates as shown in FIG. 5 with respect to the control for limiting the switching of the subject image. That is, in FIG. 5, in step S11, the angular velocity of the head of the worker W (wearer) is detected by the angular
続いて、制御ユニット60において、この検出結果が角速度センサユニット30から入力されてくると、上述のように、制御部62の映像表示制御部63によって、この検出結果が記憶され、この検出結果が所定の条件を満たすか否かが判定される。例えば、上述したように、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が前記所定の第1時間内に前記所定の方向に沿って略180度異なる方向へ2回以上変化したか否かが、判定される。より具体的には、本実施形態では、前記検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が前記所定の第1時間内に鉛直方向や水平方向に沿って略180度異なる方向へ2回変化したか否かが、判定される。
Subsequently, when the detection result is input from the angular
この判定において、本実施形態では、図5に示すように、まず、ステップS12では、映像表示制御部63の撮影方向判定部631によって、この検出結果が記憶され、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化したか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化した場合(Y)には、この今回の撮影方向の反転を判定した時刻が記憶され、ステップS13の処理が実行され、一方、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化していない場合(N)には、ステップS14の処理が実行される。
In this determination, in the present embodiment, as shown in FIG. 5, first, in step S12, the detection result is stored by the shooting
ここで、この撮影ユニット20の撮影方向の変化方向における略180度異なる方向への変化は、例えば、前回の検出結果に基づいて検出された前回の撮影ユニット20の撮影方向と今回の検出結果に基づいて検出された今回の撮影ユニット20の撮影方向とを比較することによって判断され、これらが略180度異なる方向である場合には、撮影方向判定部631によって、前回の検出と今回の検出との間に、撮影ユニット20の撮影方向の変化方向が略180度異なる方向へ1回変化したと判断され、一方、これらが略180度異なる方向ではない場合には、撮影方向判定部631によって、前回の検出と今回の検出との間に、撮影ユニット20の撮影方向の変化方向が略180度異なる方向への変化がないと判断される。
Here, the change in the direction of change of the shooting direction of the
ステップS14では、映像表示制御部63の観察制限制御部632によって、被写体の映像における切り換え制限が行われることなく、例えば15fps(毎秒15フレーム)や24fps(毎秒24フレーム)や30fps(毎秒30フレーム)等のデフォルトのフレームレートで被写体の映像を表示するべく、被写体の映像の信号(表示用映像信号)が撮影装置1から遠隔支援装置5へ送信される。遠隔支援装置5では、この表示用映像信号が受信されると、表示用映像信号による映像がディスプレイ163aに表示される。これによって指示者Aは、作業者W(装着者)の前方視野内の被写体を参照することができ、例えば、作業対象物を観察することができる。また、本実施形態では、この被写体の映像は、撮影装置1の表示ユニット40にも表示される。これによって作業者W(装着者)は、撮影ユニット20によって撮影されている領域を見ることができる。
In step S14, the observation
続いて、ステップS15では、本撮影放置1の稼動が終了であるか否かが判定され、この判定の結果、稼動が終了である場合(Y)には、処理を終了し、稼動が終了していない場合(N)には、処理をステップS11に戻す。 Subsequently, in step S15, it is determined whether or not the operation of the actual photographing abandonment 1 is finished. If the result of this determination is that the operation is finished (Y), the processing is finished and the operation is finished. If not (N), the process returns to step S11.
一方、ステップS13では、映像表示制御部63の撮影方向判定部631によって、前記ステップS12で判定された撮影ユニット20の撮影方向の反転が前記所定の第1時間内(判定時間A内)であるか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内である場合(Y)には、ステップS21の処理が実行され、一方、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではない場合(N)には、上述のステップS14の処理が実行される。
On the other hand, in step S13, the reversal of the shooting direction of the
ここで、この撮影ユニット20の撮影方向の反転が前記所定の第1時間内であるか否かの判定は、例えば、前回の撮影方向の反転を判定した時刻と今回の撮影方向の反転を判定した時刻とを比較することによって判断され、これら時刻の差が前記所定の第1時間内である場合には、撮影方向判定部631によって、撮影ユニット20の撮影方向の反転が前記所定の第1時間内であると判断され、一方、これら時刻の差が前記所定の第1時間内ではない場合には、撮影方向判定部631によって、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではないと判断される。なお、前回の撮影方向の反転を判定した時刻が記憶されていない場合には、撮影装置1の起動後における最初の反転であり、前記所定の第1時間内ではない場合と判断すればよい。
Here, the determination as to whether or not the reversal of the photographing direction of the photographing
続いて、ステップS21では、映像表示制御部63の観察制限制御部632によって、前記所定の第2時間(観察制限時間B)を計時するためのタイマ(例えばソフトウェアタイマ)が0にリセット(初期化)され、その後に、計時がスタート(開始)される。
Subsequently, in step S21, the observation
続いて、ステップS22では、観察制限制御部632によって、撮影ユニット20によって撮影された被写体の映像を表示する場合において、その被写体の映像の切り換えを制限すべく、映像の切り換えを制限した被写体の映像の信号(表示用映像信号)が撮影装置1から遠隔支援装置5へ送信される。例えば、上述したように、同じフレームの映像の信号や、被写体を表示しない予め設定された所定のフレームの映像の信号が送信される。遠隔支援装置5では、この表示用映像信号が受信されると、表示用映像信号による、映像の切り換えを制限した映像が、ディスプレイ163aに表示される。これによって指示者Aは、作業者Wの撮影装置1を介して例えば作業対象物を観察している場合に、作業者W(装着者)がその頭部を高速に移動させたり揺らしたりした場合でもあっても、この被写体の映像の切り換えが制限されることによって、前記指示者Aは、このカメラによって撮影された映像によって映像酔い等の気分が悪くなることが低減される。また、本実施形態では、この映像の切り換えを制限した被写体の映像は、撮影装置1の表示ユニット40にも表示される。これによって作業者W(装着者)は、その頭部を高速に移動させたり揺らしたりした場合でもあっても、この撮影された映像によって映像酔い等の気分が悪くなることが低減される。
Subsequently, in step S22, when displaying the video of the subject photographed by the photographing
続いて、ステップS23において、ステップS11と同様に、撮影ユニット20の撮影方向の変化方向を検出すべく、角速度センサユニット30によって作業者W(装着者)の頭部の角速度が検出され、この検出結果が制御ユニット60へ出力され、制御ユニット60で記憶される。
Subsequently, in step S23, as in step S11, the angular velocity of the head of the operator W (wearer) is detected by the angular
続いて、ステップS24では、ステップS12と同様に、映像表示制御部63の撮影方向判定部631によって、この検出結果が記憶され、この検出結果に基づいて検出された撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化したか否かが、判定される。この判定の結果、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化した場合(Y)には、この今回の撮影方向の反転を判定した時刻が記憶され、ステップS25の処理が実行され、一方、撮影ユニット20の撮影方向の変化方向が鉛直方向や水平方向に沿って略180度異なる方向へ変化していない場合(N)には、ステップS26の処理が実行される。
Subsequently, in step S24, as in step S12, the detection result is stored by the shooting
ステップS25では、ステップS13と同様に、映像表示制御部63の撮影方向判定部631によって、前記ステップS24で判定された撮影ユニット20の撮影方向の反転が前記所定の第1時間内(判定時間A内)であるか否かが、判定される。
In step S25, as in step S13, the reversal of the shooting direction of the
この判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内である場合(Y)には、ステップS21の処理が実行される。したがって、この場合(Y)では、ステップS21以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が続行されるとともに、前記所定の第2時間(観察制限時間B)の計時が再スタートされる。
As a result of this determination, when the reversal of the photographing direction of the photographing
一方、このステップS25における判定の結果、撮影ユニット20の撮影方向の反転が前記所定の第1時間内ではない場合(N)には、上述のステップS26の処理が実行される。
On the other hand, if the result of determination in step S25 is that the reversal of the shooting direction of the
ステップS26では、映像表示制御部63の観察制限制御部632によって、前記タイマがタイムアウトしているか否かが、判定される。すなわち、被写体の映像の切り換えを制限した時刻から前記所定の第2時間(観察制限時間B)が経過したか否かが、判定される。
In step S26, the observation
この判定の結果、タイマがタイムアウトしていない場合(N)では、ステップS22の処理が実行される。したがって、この場合(Y)では、ステップS22以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が続行される。 If the result of this determination is that the timer has not timed out (N), processing in step S22 is executed. Therefore, in this case (Y), the subject image switching restriction (observation restriction) is continued by executing the processing in step S22 and subsequent steps.
一方、このステップS26における判定の結果、タイマがタイムアウトしている場合(Y)では、ステップS14の処理が実行される。したがって、この場合(Y)では、ステップS14以下の処理の実行によって、被写体の映像の切り換え制限(観察制限)が解除される。 On the other hand, if the result of determination in step S26 is that the timer has timed out (Y), the process of step S14 is executed. Therefore, in this case (Y), the subject video switching restriction (observation restriction) is released by executing the processing in step S14 and subsequent steps.
このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図6(A)に示すように、撮影ユニット20の撮影方向が時刻t11で第1の反転(1)が起こり、続いて、時刻t12で第2の反転(2)が起こり、そして、時刻t13で第3の反転が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t12−t11)および第2の反転(2)から第3の反転(3)が起こる時間間隔T2(=t13−t12)が前記所定の第1時間(判定時間A)よりも長い第1態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が繰り返されることとなり、図6(B)に示すように、被写体の映像は、その切り換えに制限を受けず、指示者Aや作業者Wは、被写体の映像を観察し続けることになる。
In the remote operation support system S and the photographing apparatus 1 operating in this way, for example, as shown in FIG. 6A, the first reversal (1) occurs at the time t11 when the photographing direction of the photographing
また例えば、このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図7(A)に示すように、撮影ユニット20の撮影方向が時刻t21で第1の反転(1)が起こり、そして、時刻t22で第2の反転(2)が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t22−t21)が前記所定の第1時間(判定時間A)よりも短い第2態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が実行された後に、ステップS11、ステップS12およびステップS13の各処理が実行され、続いて、ステップS21ないしステップS26の各処理が実行され、そして、ステップS14およびステップS15の各処理が実行されることとなり、図7(B)に示すように、被写体の映像は、第2の反転(2)でその反転時刻t22から被写体の映像の切り換えに制限を受け、指示者Aや作業者Wは、前記反転時刻t22から観察制限時間Bが経過するまで、映像の切り換え制限された映像を観察することになり、前記反転時刻t22から観察制限時間Bが経過すると、映像の切り換え制限が解除され、被写体の映像が通常通りに復帰する。
Further, for example, in the remote operation support system S and the photographing apparatus 1 operating in this way, for example, as shown in FIG. 7A, the first reversal (1) occurs when the photographing direction of the photographing
また例えば、このように動作する遠隔作業支援システムSおよび撮影装置1では、例えば、図8(A)に示すように、撮影ユニット20の撮影方向が時刻t31で第1の反転(1)が起こり、続いて、時刻t32で第2の反転(2)が起こり、そして、時刻t33で第3の反転が起こる場合であって、第1の反転(1)から第2の反転(2)が起こる時間間隔T1(=t32−t31)および第2の反転(2)から第3の反転(3)が起こる時間間隔T2(=t33−t32)が前記所定の第1時間(判定時間A)よりも短い第3態様では、上述したステップS11、ステップS12、ステップS13、ステップS14およびステップS15の各処理が実行された後に、ステップS11、ステップS12およびステップS13の各処理が実行され、続いて、ステップS21ないしステップS25の各処理が実行され、そして、再び、ステップS21ないしステップS25の各処理が実行された後に、ステップS26、ステップS14およびステップS15の各処理が実行されることとなり、被写体の映像は、第2の反転(2)でその反転時刻t22から被写体の映像の切り換えに制限を受け、前記反転時刻t32から観察制限時間Bが経過する前に、再び、第3の反転(3)でその反転時刻t33から被写体の映像の切り換えに制限を受け、前記反転時刻t32から前記反転時刻t33を超えて、さらに、前記反転時刻t33から観察制限時間Bが経過するまで、被写体の映像の切り換えに制限を受け続けることになる。このため、指示者Aや作業者Wは、前記反転時刻t32を起点に、前記反転時刻t33から観察制限時間Bが経過するまでの時間帯、映像の切り換え制限された映像を観察することになり、前記反転時刻t33から観察制限時間Bが経過すると、映像の切り換え制限が解除され、被写体の映像が通常通りに復帰する。
Further, for example, in the remote operation support system S and the photographing apparatus 1 operating as described above, for example, as shown in FIG. 8A, the first reversal (1) occurs when the photographing direction of the photographing
このように本実施形態の遠隔作業支援システムSおよび撮影装置1では、撮影ユニット20の撮影方向の変化を検出するべく、頭部の角速度が角速度センサユニット30で検出され、その検出された撮影ユニット20の撮影方向の変化に基づいて遠隔支援装置5の出力装置163や撮影装置1の表示ユニット40に表示される被写体の映像の切り換えが制限される。このため、本実施形態の遠隔作業支援システムSおよび撮影装置1は、この被写体の映像の切り換えが制限されることによって、被写体の映像が例えばコマ落としや略静止画等のように表示され、あるいは例えば非表示とされ、映像酔い等の気分が悪くなることを低減することができる。
As described above, in the remote operation support system S and the photographing apparatus 1 of the present embodiment, the angular velocity of the head is detected by the angular
また、本実施形態では、撮影ユニット20の撮像素子22に、CMOS型イメージセンサが用いられている。上述したように、CMOS型イメージセンサは、各画素の画像信号を順次に走査することによって得ている。このため、頭部が高速に移動したり揺れたりした場合では、映像が歪みやすく、これにより、映像酔い等の気分が悪くなることが、一層、発生しやすい。しかしながら、本実施形態では、上述したように、頭部の角速度が角速度センサユニット30で検出され、その検出された頭部の角速度に基づいて撮影ユニット20の撮影方向の変化が検出され、この検出された撮影ユニット20の撮影方向の変化に基づいて表示用の被写体の映像におけるその切り換えが制限されるので、撮影ユニット20の撮像素子22がCMOS型イメージセンサであっても、表示する場合に、この撮影ユニット20によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。このように本実施形態の遠隔作業支援システムSおよび撮影装置1は、撮影ユニット20の撮像素子22がCMOS型イメージセンサである場合に、効果的である。
In the present embodiment, a CMOS image sensor is used for the
また、本実施形態では、表示ユニット40は、撮影ユニット20の電子ファインダとして機能し、撮影ユニット20とともに装着ユニット10に取り付けられている。このような構成であっても、本実施形態では、頭部の角速度が角速度センサユニット30で検出され、その検出された頭部の角速度に基づいて撮影ユニット20の撮影方向の変化が検出され、この検出された撮影ユニット20の撮影方向に基づいて表示用の被写体の映像におけるその切り換えが制限されるので、作業者W(装着者)において、この撮影ユニット20によって撮影された映像により、映像酔い等の気分が悪くなることを低減することができる。また、本実施形態のように表示ユニット40が撮影ユニット20の電子ファインダとして機能し、表示ユニット40と撮影ユニット20とが一体的に構成されている場合に、効果的である。
In the present embodiment, the
また、本実施形態では、表示ユニット40の接眼光学系41が装着ユニット10の透明部材14Rに取り付けられている。このような構成では、透明部材14Rが被写体の光像を所定の透過率で透過するとともに、表示ユニット40の接眼光学系41がこの透明部材14Rに設けられた表示ユニット40の接眼光学系41によって、被写体の映像を被写体の光像に重ねて表示することができる。このため、このような構成では、作業者W(装着者)の視界を損なうことが低減され、作業者Wは、作業者Wの視界にある外界と表示ユニット40の表示とを一緒に見ることができる。したがって、本実施形態の撮影装置1は、作業支援に効果的である。
In the present embodiment, the eyepiece
なお、本実施形態では、撮影装置1は、映像を表示することができるように表示ユニット40を備えているが、指示者Aの指示を音声のみで作業者Wに提供する場合には、表示ユニット40は、備えていなくてもよい。
In the present embodiment, the photographing apparatus 1 includes the
また、本実施形態では、角速度センサユニット30は、鉛直方向角速度センサ部31および水平方向角速度センサ部32を備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合および撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合のうちの少なくとも一方の場合に、被写体の映像の切り換えを制限するものであったが、角速度センサユニット30は、鉛直方向角速度センサ部31のみを備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に鉛直方向に沿って往復移動した場合に、被写体の映像の切り換えを制限するものであってもよく、また、角速度センサユニット30は、水平方向角速度センサ部32のみを備え、映像表示制御部63は、角速度センサユニット30の出力に基づいて、撮影ユニット20の撮影方向が所定の第1時間内に水平方向に沿って往復移動した場合に、被写体の映像の切り換えを制限するものであってもよい。
In the present embodiment, the angular
特に、角速度センサユニット30が鉛直方向角速度センサ部31のみを備える場合に、この鉛直方向角速度センサ部31として、水平センサを用いることで、比較的簡単な構造で安価に、撮影方向における鉛直方向に沿った往復移動を検出するためのセンサを構成することが可能となる。この水平センサは、振り子式のセンサであり、振り子(一方端に錘が吊り下げられるとともに周方向に変位可能に他方端が支持された線材)の傾きで鉛直面内における撮影方向を検出することができる。
In particular, when the angular
また、本実施形態では、図4に破線で示すように、撮影ユニット20によって撮影され、映像表示制御部63の映像表示制御63によって被写体の映像の切り換えを制限する前の前記被写体の映像と制限した区間情報を併せて記録する記録部70をさらに備えて構成されてもよい。記録部70は、例えば、ハードディスク、フラッシュメモリ等のメモリカード等を備えて構成される。本実施形態では、画像メモリ61には、被写体の映像の切り換えを制限する前の被写体の映像が記憶されているので、このような構成を容易に実現することが可能である。このように構成することによって、被写体の映像の切り換えを制限する前の被写体の映像が記録部70に記録されるので、頭部が高速に移動したり揺れたりした場合でもあっても、より正確な被写体の映像を記録することができる。また、切り換え制限した区間情報を併せて記録することで、後日、保存された映像を観察する際に、必要に応じて制限部分をスキップし、映像酔い等が発生することなく観察することも選択可能となる。
Further, in the present embodiment, as indicated by a broken line in FIG. 4, the image is captured by the photographing
さらに、この撮影装置1は、この切り換え制限後の被写体の映像だけでなく、この被写体の映像の切り換え制限前の被写体の映像をネットワークIF部68を用いて撮影装置1から遠隔支援装置5へ送信するように構成され、支援記録サーバPC7は、この切り換え制限前のこの被写体の映像を記憶して記録するように構成されてもよい。切り換え制限前の被写体の映像は、例えば、所定時間纏めて適宜なタイミングで送信される。このように構成することによって、被写体の映像の切り換えを制限する前の被写体の映像が支援記録サーバPC7に記録されるので、頭部が高速に移動したり揺れたりした場合でもあっても、より正確な被写体の映像を記録することができる。
Furthermore, the photographing apparatus 1 transmits not only the subject image after the switching restriction but also the subject image before the subject switching restriction from the photographing apparatus 1 to the
また、上述の実施形態では、撮影ユニット20の撮影方向の変化は、角速度センサユニット30で検出した装着者(作業者W)の頭部の角速度に基づいて検出されたが、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、検出されてもよい。
In the above-described embodiment, the change in the shooting direction of the
図9は、実施形態にかかる遠隔作業支援システムにおける撮影装置の他の電気的な構成を示すブロック図である。このような遠隔作業支援システムSにおける撮影装置1Aは、図9に示すように、図略の装着ユニット10と、撮影ユニット20と、表示ユニット40と、音入出力ユニット50と、制御ユニット60Aとを備えて構成される。これら装着ユニット10、撮影ユニット20、表示ユニット40および音入出力ユニット50は、図1ないし図8を用いて説明した上記実施形態の撮影装置1における装着ユニット10、撮影ユニット20、表示ユニット40および音入出力ユニット50と同様であるので、その説明を省略する。
FIG. 9 is a block diagram illustrating another electrical configuration of the imaging apparatus in the remote operation support system according to the embodiment. As shown in FIG. 9, the photographing apparatus 1A in such a remote work support system S includes an
そして、制御ユニット60Aは、撮影装置1Aの全体制御を司る回路であり、画像メモリ61と、制御部62Aと、VRAM64と、音入力処理部65と、音出力処理部66と、電源スイッチ67と、ネットワークIF部68とを備えて構成される。これら画像メモリ61、VRAM64、音入力処理部65、音出力処理部66、電源スイッチ67およびネットワークIF部68は、図1ないし図8を用いて説明した上記実施形態の撮影装置1の制御ユニット60における画像メモリ61、VRAM64、音入力処理部65、音出力処理部66およびネットワークIF部68と同様であるので、その説明を省略する。
The
制御部62Aは、撮影装置1Aの各部を当該機能に応じて制御する回路であり、例えば、マイクロコンピュータ等によって構成される。制御部62Aは、図1ないし図8を用いて説明した上記実施形態の撮影装置1における制御部62の機能に加え、さらに、機能的に、撮影方向検出部80を備えている。この撮影方向検出部80は、対応点探索部であって、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像間における対応点を対応点探索処理によって抽出することで、撮影ユニット20の撮影方向を検出するものである。
The
この対応点探索処理による撮影ユニット20の撮影方向の検出では、撮影方向検出部80は、次のように動作する。まず、撮影ユニット20によって撮影された被写体の映像のうちの2枚の画像が抽出される。例えば、撮影ユニット20によって撮影された被写体の映像における今回のフレームにおける撮影ユニット20の撮影方向を検出する場合には、今回のフレームと、今回のフレームから予め設定された所定のフレームだけ時間的に遡った過去のフレームとが抽出される。例えば、フレームレートが24fpsである場合に、1秒間に、3回、撮影ユニット20の撮影方向を検出する場合では、今回のフレームと今回のフレームより8フレームだけ時間的に前のフレームとが取り出される。
In the detection of the shooting direction of the
次に、今回のフレームにおける画像の中から予め設定された所定の特徴点が設定される。この所定の特徴点は、例えば、画像における予め設定された特定の位置(例えば画像の中央位置等)であっても良く、また例えば、画像の中から予め設定された特定の対象物であっても良い。前記特定の対象物は、例えば、前記特定の対象物の画像を予め記憶して登録しておき、パターンマッチングによって前記画像の中から検索される。また、この所定の特徴点は、1個であっても良く、また複数であってもよい。処理時間を短縮する観点からは、この所定の特徴点は、1個であることが好ましく、また、撮影ユニット20の撮影方向をより正確に検出する観点からは、この所定の特徴点は、複数であることが好ましい。また、この所定の特徴点は、複数の画素から構成されてよい。
Next, predetermined feature points set in advance from the image in the current frame are set. The predetermined feature point may be, for example, a specific position set in advance in the image (for example, the center position of the image), for example, and may be a specific target set in advance in the image. Also good. For example, the specific object is stored and registered in advance as an image of the specific object, and is searched from the image by pattern matching. Further, the predetermined feature point may be one or plural. From the viewpoint of shortening the processing time, it is preferable that the predetermined feature point is one, and from the viewpoint of more accurately detecting the shooting direction of the
次に、今回のフレームの画像における前記所定の特徴点が過去のフレームの画像におけるいずれの位置に存在するかが、マッチング処理によって探索される。より具体的には、前記所定の特徴点を構成する画素の画素値と略一致する画素値を持つ画素が、過去のフレームの画像から探索され、過去のフレームにおいて、前記略一致する画素値を持つ画素の位置が、今回のフレームの画像における前記所定の特徴点に対応する過去のフレームの画像における位置とされる。 Next, the matching process searches for the position where the predetermined feature point in the image of the current frame exists in the image of the past frame. More specifically, a pixel having a pixel value that substantially matches a pixel value of a pixel that constitutes the predetermined feature point is searched from an image of a past frame, and the pixel value that substantially matches the pixel value in the past frame is determined. The position of the possessed pixel is the position in the past frame image corresponding to the predetermined feature point in the current frame image.
そして、今回のフレームの画像における前記所定の特徴点の位置と、前記所定の特徴点に対応する過去のフレームの画像における画素の位置とから、撮影ユニット20の撮影方向が求められ、撮影ユニット20の撮影方向が検出される。
Then, the shooting direction of the
このように構成することによって、遠隔作業支援システムSおよび撮影装置1Aは、対応点探索処理の画像処理で撮影ユニット20の撮影方向の変化を検出するので、例えば角速度センサユニット30のようなセンサ部品を、別途に必要せず、センサレスでソフトウェアによって撮影方向検出部を構成することが可能となる。
By configuring in this way, the remote operation support system S and the imaging apparatus 1A detect a change in the imaging direction of the
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。 In order to express the present invention, the present invention has been properly and fully described through the embodiments with reference to the drawings. However, those skilled in the art can easily change and / or improve the above-described embodiments. It should be recognized that this is possible. Therefore, unless the modifications or improvements implemented by those skilled in the art are at a level that departs from the scope of the claims recited in the claims, the modifications or improvements are not covered by the claims. To be construed as inclusive.
S 遠隔作業支援システム
1、1A 撮影装置
5 遠隔支援装置
6 メインサーバコンピュータ装置
7 支援記録サーバコンピュータ装置
8 コンテンツサーバコンピュータ装置
10 装着ユニット
20 撮影ユニット
30 角速度センサユニット
31 鉛直方向角速度センサ部
32 水平方向角速度センサ部
40 表示ユニット
41 接眼光学系
41a 光学プリズム
41b 反射部
50 音入出力ユニット
60、60A 制御ユニット
63 映像表示制御部
631 撮影方向判定部
632 観察制限制御部
70 記録部
80 撮影方向検出部
S Remote Work Support System 1,
Claims (16)
前記撮影部の撮影方向の変化を検出する撮影方向検出部と、
前記撮影方向検出部で検出された前記撮影部の撮影方向の変化が、所定の第1時間内において所定の方向に沿う往復移動の場合に、前記撮影部によって撮影された被写体の映像を表示する場合における前記被写体の映像の切り換えを制限する映像表示制御部とを備えること
を特徴とする撮影装置。 A head-mounted imaging unit comprising an installation unit to be mounted on the head and an imaging unit for imaging the subject;
A shooting direction detection unit that detects a change in the shooting direction of the shooting unit;
When the change in the shooting direction of the shooting unit detected by the shooting direction detection unit is a reciprocating movement along a predetermined direction within a predetermined first time, an image of the subject shot by the shooting unit is displayed. And a video display control unit for restricting switching of the video of the subject in the case.
を特徴とする請求項1に記載の撮影装置。 The reciprocating movement is characterized in that the photographing direction of the photographing unit detected by the photographing direction detecting unit changes two or more times in a direction different by about 180 degrees along the predetermined direction. The imaging device described in 1.
を特徴とする請求項1または請求項2に記載の撮影装置。 The photographing apparatus according to claim 1, wherein the predetermined first time is 0.3 seconds to 3 seconds.
を特徴とする請求項1ないし請求項3のいずれか1項に記載の撮影装置。 The video display control unit restricts switching of the video of the subject by not updating a frame in the video of the subject for a predetermined second time. The imaging device according to claim 1.
を特徴とする請求項1ないし請求項3のいずれか1項に記載の撮影装置。 The video display control unit restricts switching of the video of the subject by not displaying the video of the subject during a predetermined second time period. The imaging device according to item.
を特徴とする請求項1ないし請求項5のいずれか1項に記載の撮影装置。 The photographing apparatus according to claim 1, wherein the predetermined second time is longer than the first time and is 1 second to 5 seconds.
を特徴とする請求項1ないし請求項6のいずれか1項に記載の撮影装置。 The photographing apparatus according to any one of claims 1 to 6, wherein the predetermined direction is a vertical direction.
を特徴とする請求項1ないし請求項7のいずれか1項に記載の撮影装置。 The photographing apparatus according to any one of claims 1 to 7, wherein the predetermined direction is a horizontal direction.
を特徴とする請求項1ないし請求項7のいずれか1項に記載の撮影装置。 The imaging apparatus according to claim 1, wherein the imaging direction detection unit includes a horizontal sensor.
を特徴とする請求項1ないし請求項8のいずれか1項に記載の撮影装置。 The imaging apparatus according to any one of claims 1 to 8, wherein the imaging direction detection unit includes an angular velocity sensor.
を特徴とする請求項1ないし請求項8のいずれか1項に記載の撮影装置。 The shooting direction detection unit detects a shooting direction of the shooting unit by extracting a corresponding point between two images of a subject image shot by the shooting unit by a corresponding point search process. The imaging apparatus according to claim 1, further comprising a search unit.
前記撮像素子は、CMOS型イメージセンサであること
を特徴とする請求項1ないし請求項11のいずれか1項に記載の撮影装置。 The imaging unit of the head-mounted imaging unit includes an imaging device that converts an optical image of the subject into an electrical signal, and an optical system that forms the optical image of the subject on a light receiving surface of the imaging device. ,
The imaging device according to claim 1, wherein the image sensor is a CMOS image sensor.
を特徴とする請求項1ないし請求項12の何れか1項に記載の撮影装置。 The imaging device according to any one of claims 1 to 12, further comprising a display unit that displays an image of a subject imaged by the imaging unit of the head-mounted imaging unit.
を特徴とする請求項13に記載の撮影装置。 The imaging apparatus according to claim 13, wherein the display unit is provided in the head-mounted imaging unit.
前記通信制御部は、前記音入力部によって変換された音信号を前記通信部に送信させるとともに、音を出力させるべく、前記通信部によって受信された音信号を前記音出力部へ出力すること
を特徴とする請求項1ないし請求項14のいずれか1項に記載の撮影装置。 A sound input unit that converts sound into a sound signal; a sound output that converts sound signal into sound; a communication unit that transmits and receives communication signals; and a communication control unit that controls transmission and reception of the communication unit;
The communication control unit causes the sound signal converted by the sound input unit to be transmitted to the communication unit, and outputs the sound signal received by the communication unit to the sound output unit in order to output sound. 15. The photographing apparatus according to claim 1, wherein the photographing apparatus is characterized in that:
前記撮影装置は、請求項1ないし請求項15のいずれか1項に記載の撮影装置であり、
前記遠隔作業支援装置は、前記通信網を介して受信され、前記頭部装着式撮影部の撮影部によって撮影された被写体の映像を表示する第2表示部と、指示者の指示を受け付けて該指示を前記通信網を介して前記撮影装置へ送信する指示受付部とを備えること
を特徴とする遠隔作業支援システム。 A remote work support system comprising a photographing device and a remote work support device communicably connected to the photographing device via a communication network,
The imaging device is the imaging device according to any one of claims 1 to 15,
The remote operation support device receives a command from an instructor by receiving a second display unit that displays an image of a subject received by the imaging unit of the head-mounted imaging unit and received via the communication network. A remote work support system comprising: an instruction receiving unit that transmits an instruction to the photographing apparatus via the communication network.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009262968A JP2011109463A (en) | 2009-11-18 | 2009-11-18 | Photographing apparatus and remote operation support system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009262968A JP2011109463A (en) | 2009-11-18 | 2009-11-18 | Photographing apparatus and remote operation support system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011109463A true JP2011109463A (en) | 2011-06-02 |
Family
ID=44232459
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009262968A Pending JP2011109463A (en) | 2009-11-18 | 2009-11-18 | Photographing apparatus and remote operation support system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011109463A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015119324A (en) * | 2013-12-18 | 2015-06-25 | カシオ計算機株式会社 | Moving image processing device, moving image processing method, and program |
JP2016126365A (en) * | 2014-12-26 | 2016-07-11 | セイコーエプソン株式会社 | Display system, display device, information display method, and program |
JP2021027419A (en) * | 2019-08-01 | 2021-02-22 | 国立大学法人富山大学 | Imaging apparatus for forehead band and image control method |
-
2009
- 2009-11-18 JP JP2009262968A patent/JP2011109463A/en active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015119324A (en) * | 2013-12-18 | 2015-06-25 | カシオ計算機株式会社 | Moving image processing device, moving image processing method, and program |
JP2016126365A (en) * | 2014-12-26 | 2016-07-11 | セイコーエプソン株式会社 | Display system, display device, information display method, and program |
JP2021027419A (en) * | 2019-08-01 | 2021-02-22 | 国立大学法人富山大学 | Imaging apparatus for forehead band and image control method |
JP7228190B2 (en) | 2019-08-01 | 2023-02-24 | 国立大学法人富山大学 | Imaging device for forehead band and image control method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7286753B2 (en) | Image capturing apparatus | |
US9596390B2 (en) | Imaging apparatus, imaging method, and computer-readable recording medium | |
JP5193404B2 (en) | Information equipment | |
JP2013150265A (en) | Imaging apparatus, display method, and program | |
JP2011101300A (en) | Photographing device and remote operation support system | |
JP2015186020A (en) | Display apparatus, photographing apparatus, and display method | |
JP2006217520A (en) | Video display device and glasses type video display device | |
JP2009075610A (en) | See-through type display device with hazard prevention function and hazard prevention method when see-through type display device is used | |
JP4931693B2 (en) | Information equipment | |
WO2011058707A1 (en) | Imaging device and remote operations support system | |
JP2011109463A (en) | Photographing apparatus and remote operation support system | |
JP2008123257A (en) | Remote operation support system and display control method | |
JP2008113317A (en) | Remote operation support system | |
JP2011109462A (en) | Image transmission device, imaging device, and remote work support system | |
JP2007219069A (en) | Image display | |
JP2004104652A (en) | Image pickup device | |
JP2000132329A (en) | Device and method for recognizing surface and virtual image solid synthesizer | |
JP2007174218A (en) | Display device | |
JP2011109276A (en) | Camera finder, photographing apparatus, and remote operation support system | |
JP5529303B2 (en) | Information equipment | |
JP2014082586A (en) | Photographing apparatus | |
JP2010193287A (en) | Camera | |
WO2011055526A1 (en) | Image transmission device, imaging device, and remote work support system | |
JP2005303842A (en) | Head-mounting camera | |
JP2005252734A (en) | Head-mounted camera |